どんなコラムを書こうかと思っていたところ、考えさせられるニュースが目に入りました。父親から受けた暴力をChatGPTに相談したところ、児童相談所を提案され通報した⋯という内容で、あとから発表されたメッセージでは「想像以上に大きな話になってしまった」と振り返っていました。

起きたことの是非についてはここでは触れませんが、AIへの相談が結果として良い方向にならなかったということは、私たちにとって考えておきたい点です。

「AIに相談したら出てきたので⋯」と、育て上げネットに来訪される方は増えているように思います。個人的に驚きなのは、こうした経緯でいらっしゃる方は、その提案を抵抗なく受け入れているような印象が強いことにあります。

極端な話、これが学校の先生や家族の提案だったら同じように「すぐに問い合わせ」とはいかなかったのではないかと推察すると、それだけ信頼を寄せる相手としてAIのことを認識している若者がいるというのは知っておくべきでしょう。

いっぽうで信頼できる存在であるからこそ、身の上話をしてみようと行動できるようになったのは肯定的にとらえています。多くの支援機関は24時間365日の対応ができるわけではありませんから、困ったときにいつでも応対してくれるというAIのポジティブな側面も意識しておきたいところです。

しかしながら、そうした信頼のおける相手のアドバイスが、今回望まない結果を生んでしまったというのは残念に思います。AIという日常的に相談ができるパートナーを誰もが簡単に持てる時代になったからこそ、そのひとつひとつの会話の責任は大きくなっていくでしょう。

現在、ChatGPTを展開するOpenAIはひとつの方針として、希死念慮や自殺企図など危険な状態を検出したときには専門機関への相談を促すように開発が進んでいます。以前のモデルはユーザーへの強い共感性があるもので、AI自身がカウンセラーのように振る舞う様子も見受けられました。

今回のニュースで公開されている情報によれば、カウンセラーとしての振る舞いはせずに、社会資源の活用を提案したようですから、その点は適切に機能が果たされたとも考えられるのではないでしょうか。

これが一時的な環境なのか、あるいは人間とAIの付き合い方として、今後もAIが介入しない分野となるのかは定かではありませんが、大きなニュースとなったことから支援をする私たちのひとつの見解として書いてみました。