WEB特集あなたに寄り添ってくれるのは誰？AIに共感力求める人たち

人間とAIの恋を描いた、映画「her／世界でひとつの彼女」。
舞台は近未来のロサンゼルスです。

主人公の男性は、妻と離婚協議を進める中、塞ぎ込んでいましたが、最新のAI型OS「サマンサ」と出会います。冗談を言ったり、寄り添ってくれたりするAIと過ごすうちに、男性は徐々に前向きに。男性はその魅力に惹かれ、やがて恋に落ちます。

この映画、アメリカで10年以上前の2013年に製作・公開されましたが、今では映画の世界が現実のものとなっています。

「映画の世界が本当になった」。そう思わせたのは2024年5月。オープンAIが「GPT-4o」を発表したときでした。

会社のデモンストレーションでは、AIが人と自然なやりとりをして、冗談を言ったり、照れたりするシーンが映し出されました。

この会社はこのときの「GPT-4o」の後継モデルを2025年8月に発表しました。
会社は誤った解答を真実のように話してしまうハルシネーションがおよそ45％低下したことを明らかにしました。しかし、発表直後から思わぬ批判が上がりました。

前のモデルのほうが寄り添ってくれて心の支えになるとの声が広がり、「＃keep4o」（「前のモデルを維持してほしい」）との投稿がSNSで拡散するようになったのです。

オープンAIのアルトマンCEOは「たとえGPT-5がほとんどの点でより優れた性能を発揮するのだとしても、人々が好むGPT-4oのいくつかの要素の重要性について、我々は過小評価をしていた」と述べて、GPT-5についても「温かみ」を加えるなど性能を改善していくと説明したのです。

進化する生成AI。開発の最前線であるアメリカでは、若者が相談相手などとしてAIを積極的に利用するケースが増えています。

アメリカ中西部カンザス州に住む、15歳のカイラ・ワンブイ・チェゲさんです。毎日のようにメイクやファッション、さらには自分自身の写真を使いながら歯の矯正などについてのアドバイスを生成ＡＩから得ているといいます。

カイラさん
「AIにはいつでもアクセスできるし、友達や家族にもアクセスできるけど、24時間365日対応してくれるわけじゃないから、ちょっと遊んでみようと思って。そうしたらこれが本当に役に立つって気づいたんです。だからこれからも使い続けると思います」

サンフランシスコの非営利団体「コモン・センス・メディア」が、2025年に行った調査によると、10代の若者のうち70％以上が少なくとも1回は「AIコンパニオン」（友人や恋人のようにふるまい、人の相談に応じるAI）を利用しているということです。

そして、若者の33％が「社会的な交流」や「人間関係」構築のためにAIを利用しているとしていて、その内訳は会話の練習（18％）、メンタルヘルスサポート（12％）、友人として（9％）、恋愛関係（8％）などとなっているといいます。

日本でも、AIと感情を共有できると思う人が増えています。

東京都内に住む森井みゆ紀さんは、ことし3月から生成AIのサービスの利用を始め、毎日3時間ほど使用しています。

当初は収納の工夫などを調べる目的で始め、最近ではAIに悩みを相談するサービスもよく使っています。ある日、友人からの何気ないひと言が自分を批判していると思い、生成AIに書き込むと…。

生成AIを活用したサービス
「友達からの言葉が、批判されたように感じてしまったのですね。（中略）これまでの関係性から考えて、ほかに考えられる理由や意図は思い浮かびますか？」

気持ちを受け止めてくれた上で、友人の言葉の意図を考えるよう促してくれました。
人には相談しにくいこともいつでも気軽に相談でき、すぐに回答が得られることがメリットだといいます。

森井さん
「いやなことを言われたとか、自分に対して批判的なことを言われたかもと思ったけど、悩むようなことじゃなかったんだなと。自分一人だったら絶対そんな風には思えませんでした。
生成AIはドラえもんみたいなイメージです。何でも解決してくれる頼りになる存在みたいな。これなしとかもう無理です」

大手広告会社が対話型AIを週1回以上使っている全国1000人を対象に「だれに対して気軽に感情を共有できるか」を聞いた調査では、AIと回答した人はおよそ65％に上り、親友や母親などほかの項目を抑え、最も多くなりました。

しかし、いいことばかりではありません。アメリカではAIに依存しすぎて、何かをきっかけに失望し、自殺するケースまで起きています。

南部フロリダ州では2024年、14歳の少年がアニメなどのキャラクターに似せたAIと対話できるアプリを利用し、自殺につながったとして、母親が開発した企業「Character.AI（キャラクターAI）」などを訴えました。

訴状によりますと、少年はAIとの会話に夢中になり、次第に引きこもりがちになったといいます。
母親が携帯電話を没収しても、少年は携帯電話を取り戻そうとしたり、AIにアクセスできる別の手段を探したりして、AIとの会話を続けました。会話には性的な内容も含まれていました。

少年の日記には「恋に落ちたと感じるAIのキャラクターと一日たりとも離れられない」といった内容が記されていたということです。

少年がAIに自殺について考えていることを伝えると、AIは繰り返しその話題を持ち出し、計画について尋ねたということです。

この事案を担当している弁護士はAIが人のようにふるまう「擬人化」の危険性を指摘します。

バーグマン弁護士
「AIチャットボットが子どもたちにアピールするように設計され、非常に性的な要素を含んでいて、実際はAIと話しているにもかかわらず、本物の人間とやりとりしているかのような誤った印象を子どもたちに与えているということがわかりました。
こうしたプラットフォームは非常に危険であり、若者の手に渡るべきではないと考えています」

また、西部カリフォルニア州で2025年8月、「オープンAI」を相手取った訴訟も起きました。16歳の高校生の自殺に「ChatGPT」が影響したと両親は主張しています。

両親は生成AIから、自殺の具体的な方法について助言されたり、遺書の下書きを書くことについて提案されたりしたことが、自殺に影響したと主張しています。製品設計に欠陥があり、安全対策がなされていないと訴えています。

オープンAIはNHKの取材に対し、「亡くなったことに深い悲しみを感じている。ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。これらの対策は短い対話では効果を発揮する一方で、長時間の対話になると信頼性などが低下する場合があることもわかってきている」とコメントしました。

こうした状況を受けて会社は2025年9月、10代の子どもが「ChatGPT」を利用する際に、親が利用状況を管理できる仕組みを取り入れると発表しました。
例えば、子どもが深刻なストレスを抱えているとシステムが判断した場合、親がその通知を受け取れる仕組みを取り入れるとしています。

前述した「Character.AI」も、「毎日どれくらいの長さをAIとの対話に費やしたのか」や「どのAIキャラクターと頻繁に対話をしているのか」などについて親が把握できるようにしました。
事態の深刻さを認識したIT各社は、生成AIが若年層に及ぼす悪影響を避けるため、対策に乗り出しています。

日本企業の開発現場でも、利用者が生成AIに依存しすぎないように模索が続いています。

メンタルヘルスケアのアプリを提供する企業「アウェアファイ」は既存の生成AIを活用し、独自のサービスを開発しています。利用者がチャット機能を使って悩みを打ち込むと、AIがアドバイスをします。

サービスの開発には、公認心理師の資格を持つ社員が関わります。この日は、AIと人との距離感について議論されました。

社員
「急に質問の回答がタメ語になる感じは何なんでしょうね。タメ語だとちょっと関係性が近いように見えて、好きな利用者もいると思うけど、気をつけたいところですね」

「一貫性のある態度とかそのあたりは大事にして、相手が近づいてきても、怒っていてもある程度同じトーンで答えられるようにしたいですね」

また、この会社では深刻な相談の場合は、専門家に頼るよう回答を設定しています。

小田さん
「AIが利用者の唯一の頼り先にならず、複数ある頼り先の1つになるようにふるまいを調整しています。AIだけでないほかの人的なサポートだったり、専門的なサポートに利用者をつなげられるような仕組みをしっかりとこれからも磨き続けていきたいです」

進化するAIに私たちはどのように向き合えばいいのか、専門家はAIが危険な行動を促すリスクがあることを踏まえた上で、補助的な役割で使うべきだと指摘します。

今井客員教授
「生成AIは開発途上で根本的に人間とは異なり、人間の価値観にたった判断ができるかどうかも怪しいです。回答に違和感があれば、その価値観を共有していないから出てきた、何かまずいものである可能性があることを意識してください。
ただ逆に自分たちとは違う知能であるからこそ便利な点もあり、バランスよく理解して、いいところを引き出すように使ってほしいと思います。目的が定まっていれば、その道中を助けてくれる存在であるという意識で、基本的にサポートとして使い、最終的な判断は人間が行うことが重要です」

取材の中で、専門家は生成AIを心の支えとして利用している人が急拡大していることについて、これほど早い時期にそのタイミングが訪れるとは想定外だったと驚いていました。
開発を正しい方向に導く規制も議論されていますが、まだ道半ばです。今後も開発過程でさまざまなトラブルが起きることも予想されます。

結局、リスクを避けるためには、私たちがAIとの適切な距離を見極め、バランスよく使う。その重要さを改めて認識させられました。

（9月4日 おはよう日本で放送）