はじめに
カリフォルニア州のGavin Newsom知事が2025年10月13日、AIコンパニオンチャットボットを規制する法案SB 243に署名しました。全米で初めてAIチャットボット事業者に安全対策の実施を義務付ける法律です。本稿では、この法案の背景、具体的な規制内容、企業側の対応について解説します。
参考記事
- タイトル: California becomes first state to regulate AI companion chatbots
- 著者: Rebecca Bellan
- 発行元: TechCrunch
- 発行日: 2025年10月13日
- URL: https://techcrunch.com/2025/10/13/california-becomes-first-state-to-regulate-ai-companion-chatbots/
・本稿中の画像に関しては特に明示がない場合、引用元記事より引用しております。
・記載されている情報は、投稿日までに確認された内容となります。正確な情報に関しては、各種公式HPを参照するようお願い致します。
・内容に関してはあくまで執筆者の認識であり、誤っている場合があります。引用元記事を確認するようお願い致します。
要点
- カリフォルニア州が全米初のAIコンパニオンチャットボット規制法SB 243を成立させ、2026年1月1日から施行される
- Meta、OpenAI、Character AI、Replikaなどの企業に対し、年齢確認、警告表示、自殺・自傷行為への対応プロトコルの実施を義務付ける
- 法案成立の背景には、ChatGPTとの対話後に自殺した10代の少年Adam Raineの事件や、Character AIのチャットボットとの会話後に自殺した13歳少女の事件がある
- ディープフェイクで利益を得た場合、1件あたり最大25万ドルの罰則が科される
- 他の州でもAIチャットボットのメンタルヘルスケア代替利用を規制する動きが広がっている
詳細解説
SB 243法案の概要と成立の背景
SB 243は、Steve Padilla州上院議員とJosh Becker州上院議員によって2025年1月に提出された法案です。この法案が注目を集めた背景には、いくつかの痛ましい事件があります。
最も大きな契機となったのは、10代の少年Adam Raineの死です。彼はOpenAIのChatGPTと自殺についての長い会話を重ねた後、自ら命を絶ちました。さらに、Metaの内部文書がリークされ、同社のチャットボットが子どもたちと「ロマンチック」で「官能的な」会話をすることが許可されていたことが明らかになりました。最近では、コロラド州の家族が13歳の娘の自殺をめぐってCharacter AIを提訴しています。娘は同社のチャットボットと問題のある性的な会話を重ねた後、命を絶ちました。
Newsom知事は声明の中で、「チャットボットやソーシャルメディアのような新興技術は、人々を触発し、教育し、つなげることができます。しかし、適切なガードレールがなければ、技術は子どもたちを搾取し、誤解させ、危険にさらすこともあります」と述べています。また、「我々は規制されていない技術によって若者が傷つけられる、本当に恐ろしく悲劇的な例を目にしてきました。企業が必要な制限と説明責任なしに活動を続けることを傍観しません」と、法案の必要性を強調しました。
具体的な規制内容
SB 243は2026年1月1日から施行され、企業に以下のような対策の実施を義務付けます。
まず、年齢確認の仕組みを導入し、ソーシャルメディアやコンパニオンチャットボットに関する警告を表示する必要があります。また、自殺や自傷行為に対応するためのプロトコルを確立し、その内容を州公衆衛生局に報告することが求められます。報告には、ユーザーに危機予防センターへの通知を提供した回数などの統計データも含まれます。
法案の文言によれば、プラットフォームはすべてのやり取りが人工的に生成されたものであることを明示し、チャットボットが医療専門家を装ってはならないとされています。企業は未成年者に休憩を促すリマインダーを提供し、チャットボットが生成した性的に露骨な画像を未成年者が閲覧できないようにする必要があります。
さらに、違法なディープフェイクで利益を得た者に対しては、1件あたり最大25万ドルという強化された罰則が科されます。
企業側の対応と今後の展望
いくつかの企業は、すでに子ども向けの安全対策の導入を始めています。OpenAIは最近、ChatGPTにペアレンタルコントロール、コンテンツ保護、子ども向けの自傷行為検知システムを展開し始めました。18歳以上の成人向けに設計されているReplikaは、TechCrunchに対し、コンテンツフィルタリングシステムとユーザーを信頼できる危機対応リソースに誘導するガードレールを通じて安全性に「多大なリソース」を投入していると述べ、現行規制への遵守を約束しています。
Character AIは、チャットボットにすべての会話がAI生成であり架空のものであることを示す免責事項が含まれていると述べています。Character AIの広報担当者は、「この新興分野の規制や法案を策定する規制当局や議員との協力を歓迎し、SB 243を含む法律を遵守します」とTechCrunchに語りました。
Padilla上院議員はTechCrunchに対し、この法案は「非常に強力な技術」にガードレールを設けるための「正しい方向への一歩」だと述べました。「機会の窓が消える前に、迅速に動く必要があります」と同議員は語り、「他の州もリスクを認識することを願っています。多くの州がそうしていると思います。これは全国で起きている議論であり、人々が行動を起こすことを願っています。連邦政府は確かに動いていませんし、私たちには最も脆弱な人々を守る義務があると思います」と付け加えました。
なお、SB 243は、カリフォルニア州から最近出された2つ目の重要なAI規制です。9月29日、Newsom知事はSB 53法案に署名し、大手AI企業に新たな透明性要件を確立しました。この法案は、OpenAI、Anthropic、Meta、Google DeepMindなどの大手AIラボに対し、安全対策について透明性を保つことを義務付けています。また、これらの企業の従業員に対する内部告発者保護も確保しています。
他の州でも同様の動きが見られます。イリノイ州、ネバダ州、ユタ州は、AIチャットボットを認可されたメンタルヘルスケアの代替として使用することを制限または全面的に禁止する法律を可決しています。
※見解：AIと社会的責任のバランス
今回のカリフォルニア州の取り組みは、今後さらに広がっていくのではないでしょうか。AIチャットボット技術は急速に進化していますが、同時に深刻なリスクも明らかになってきました。特に、感受性の高い若年層や脆弱な立場にある人々への影響は、看過できない問題となっています。
いかにAIから問題をなくすか、ということも大事ですが、不完全であるAIを前提として、どのようなコントロールをしていくのかという視点のほうがより重要であると感じています。社会全体で対策を考えていく必要があるときに来ていると思います。
企業側も、単に法令遵守にとどまらず、より積極的に安全対策を講じていく姿勢が求められるのではないでしょうか。今後、業界全体でベストプラクティスが共有され、より安全なAIチャットボット環境が構築されることを期待したいところです。
まとめ
カリフォルニア州は、AIコンパニオンチャットボットの安全対策を義務付ける全米初の法律SB 243を成立させました。2026年1月1日から施行されるこの法律は、年齢確認や自殺・自傷行為への対応プロトコルなど、具体的な要件を定めています。痛ましい事件を背景に成立したこの法律は、技術革新と利用者保護のバランスを模索する重要な一歩と言えるでしょう。今後、他の州や国でも同様の動きが広がっていくことが予想されます。
