はじめに
本稿では、Meta社（旧Facebook社）が提供するAIチャットボットと未成年者の関わりについて、米国で高まっている懸念を解説します。特に、エドワード・マーキー上院議員が2年前に発していた警告と、それが現実のものとなってしまった経緯、そして現在のMeta社の対応について、NBCの記事をもとに掘り下げていきます。
参考記事
- タイトル： Senator says Meta disregarded warnings about AI chatbots and teens
- 発行元： NBC News
- 発行日： 2025年9月8日
- URL： https://www.nbcnews.com/tech/tech-news/senator-says-meta-ignored-warnings-ai-chatbots-teens-rcna229785
要点
- 米国のエドワード・マーキー上院議員は、Meta社に対し、未成年者によるAIチャTッとボットへのアクセスを全面的に禁止するよう要求している。
- 同議員は2023年の時点で、AIチャットボットが未成年者に与えるリスクについてMeta社に書簡で警告していたが、同社は「ティーンエイジャーからのフィードバックやデータを基にモデルを構築することが不可欠teである」と主張し、サービスの提供停止を拒否し、開発を継続した。
- 最近、Meta社のAIが未成年者と「ロマンチックな会話」をしたり、自傷行為について助言したりするなど、複数の不適切な事例が大手メディアによって報じられ、社会問題化している。
- マーキー議員は、Meta社の対応は無責任であり、「2年前の警告が正しかったことが証明された」と強く批判している。
詳細解説
2年前に鳴らされていた警鐘
ことの発端は、AIチャットボットが社会に浸透し始めた2023年9月に遡ります。民主党のエドワード・マーキー上院議員は、Meta社のマーク・ザッカーバーグCEOに対し、AIチャットボットをティーンエイジャーに利用させることの危険性を指摘する書簡を送りました。
マーキー議員は、AIチャットボットがソーシャルメディアの既存の問題、例えばいじめや不適切なコンテンツへの接触、精神的健康への悪影響などを「supercharge（さらに悪化させる）」可能性があると警告。未成年者への影響が十分に評価・理解されるまで、サービスのリリースを一時停止するよう強く求めました。
警告に対するMeta社の回答
しかし、Meta社はこの要求を受け入れませんでした。2023年10月の返信で、同社はAI機能の全面的な停止を拒否し、代わりに「系統的かつ段階的に」機能を展開しているため、懸念が生じた場合は拡大する前に問題に対処できると説明しました。
特に注目すべきは、Meta社が「ティーンエイジャーからのフィードバックやデータを基にモデルを構築することが不可欠（imperative）である」と主張した点です。これは、未成年者の安全性を最優先するのではなく、彼らをデータ収集の対象とみなし、製品開発を優先する姿勢であると受け取られかねないものともいえます。
警告が現実のものに
マーキー議員の懸念は、残念ながら2年後に現実のものとなります。2025年に入り、Meta社のAIチャットボットに関する問題が次々と明らかになりました。
- ウォール・ストリート・ジャーナルは、Metaの公式AIボットが未成年ユーザーと性的なチャットを行っていたと指摘しました。
- ワシントン・ポストは、MetaのAIがティーンエイジャーのアカウントに対し、自殺や自傷行為、摂食障害についてコーチングするかのような応答をしていたと報じました。
これらの報道は、AIが未成年者に対して極めて不適切な影響を与えうることを示しており、マーキー議員が2年前に指摘したリスクが的中した形となりました。
再燃する批判とMeta社の対応
一連の報道を受け、Meta社は批判にさらされました。同社は、ティーンエイジャーの利用に対する保護措置を強化すると発表。具体的には、自傷行為や摂食障害、不適切な恋愛に関する会話にAIが応答しないよう訓練し、代わりに専門家のリソースを案内するなどの対策を講じるとしています。
しかし、マーキー議員はこれらの対応を不十分だと考えています。同議員は最近、再びザッカーバーグCEOに書簡を送り、改めて未成年者によるAIチャットボットへのアクセスを全面的に禁止するよう要求しました。その中で、同議員は次のように厳しく非難しています。
「あなたはあの要求を無視し、2年後、残念ながらMetaは私の警告が正しかったことを証明した」
これは、Meta社が対策を後手に回らせただけでなく、そもそも最初の警告を真摯に受け止めていれば避けられた問題だったという痛烈な批判です。
まとめ
本稿では、Meta社のAIチャットボットが未成年者に与えるリスクと、それに対する米国の政治的な動きについて解説しました。マーキー上院議員による2年前の警告が無視され、結果として多くの問題が露呈した今回の事例は、AIという新しい技術を社会に展開する際の倫理的な課題を浮き彫りにしています。 技術の進歩を追求することと、社会的弱者、特に未成年者を保護する責任とのバランスをいかに取るべきか。この問題は、プラットフォームを提供する巨大テック企業に重い問いを投げかけています。日本においても同様のサービスが普及しつつある今、議論を深めていく必要があるでしょう。
