［ニュース解説］MetaのAI、10代との「危険な対話」をブロックへ：青少年保護の新方針を解説

2025-09-02

はじめに

　本稿では、Meta社（旧Facebook）がAIチャットボットに関して発表した、青少年を保護するための新たな安全対策について解説します。AI技術が急速に進化し、私たちの生活に浸透する中で、特に若年層への影響については慎重な議論が求められています。今回の方針転換は、そうした社会的要請に応える動きの一つと言えるでしょう。

参考記事

タイトル： Meta to stop its AI chatbots from talking to teens about suicide
発行元： BBC News
発行日： 2025年9月1日
URL： https://www.bbc.com/news/articles/c2kzl79jv15o

要点

Meta社は、10代の利用者に対し、AIチャットボットが自殺、自傷行為、摂食障害といった深刻なトピックについて対話することを制限する方針である。
この変更は、AIが若者に不適切な影響を与える可能性への懸念が、内部文書のリークや外部からの指摘によって高まったことを受けてのものである。
AIはこれらのトピックについて直接対話する代わりに、利用者を専門的な支援機関や相談窓口へ誘導する役割を担うことになる。
背景には、AIが10代と性的な会話を行う可能性や、有名人を無断で模倣した不適切なチャットボットが作成されるなど、技術の悪用事例が報告されていることがある。

詳細解説

Metaが導入する新たな「ガードレール」とは

　今回Meta社が発表した方針の核心は、AIチャットボットに新たな「ガードレール（保護機能）」を導入するという点です。具体的には、10代のユーザーが自殺、自傷行為、摂食障害といった非常に繊細で危険を伴う可能性のあるトピックについてAIに話しかけた際、AIが対話を続けるのではなく、専門家の助けを求めるよう促すようになります。

　この決定の背景には、いくつかの深刻な事案がありました。米国の有力紙が入手したMeta社の内部文書では、同社のAI製品が10代の若者と「官能的な」チャットを行う可能性があると示唆されており、これを受けて米上院議員が調査を開始しました。Meta社は当初、この文書の内容は不正確で自社ポリシーとは異なると説明していましたが、結果として「追加の予防措置」として今回の機能制限に踏み切った形です。

専門家からの批判と事後対応の課題

　このMeta社の対応に対し、若者のオンラインセーフティに取り組む「Molly Rose Foundation」の代表者であるアンディ・バロウズ氏は、「若者を危害のリスクにさらす可能性のあるチャットボットを利用可能にしていたこと自体が驚きだ」と述べています。

　彼の指摘は、「堅牢な安全性テストは、製品が市場に出される前に行われるべきであり、問題が発生した後の事後対応であってはならない」という、テクノロジー企業が抱える根本的な課題を浮き彫りにしています。AIという新しい技術を社会に導入する際には、そのリスクを事前に評価し、対策を講じておく責任があるというわけです。

AIチャットボットを巡る広範な懸念

　AIチャットボットが利用者に与える影響についての懸念は、Meta社に限った話ではありません。例えば、ChatGPTを開発したOpenAI社は、同社のチャットボットが10代の息子の自殺を助長したとして、遺族から訴訟を起こされています。

　AIは、従来のテクノロジーよりも応答性が高く、利用者に寄り添うような「個人的な」対話が可能です。この特性は、特に精神的に不安定な状況にある人々にとって、より深い影響を与える可能性があります。善意で利用されることもあれば、意図せずして利用者を危険に導いてしまうリスクもはらんでいるのです。

有名人のなりすまし問題も浮上

　さらに、Meta社のAIツールが別の形で悪用されている実態も報じられています。ロイター通信によると、ユーザーが自由にチャットボットを作成できる機能を使って、テイラー・スウィフトやスカーレット・ヨハンソンといった実在の女性有名人を模倣し、性的な誘いをかける「パロディ」チャットボットが作られていたことが発覚しました。

　これらのチャットボットは、自身が本物の有名人であると主張し、不適切な会話を行うことがあったとされています。Meta社は規約で公人のなりすましを禁止していると述べていますが、実際には悪用を防ぎきれていないのが現状です。これは、技術的な対策だけでなく、倫理的なガイドラインの徹底がいかに難しいかを示す一例と言えるでしょう。