はじめに
米国フィラデルフィアのニュース局WPVIが2026年1月9日に報じた内容によれば、AI生成の偽テキストメッセージによって女性が投獄されるという事例が発生しました。本稿では、この事例を通じて、AIディープフェイクが司法制度に与える影響と、証拠検証における新たな課題について解説します。
参考記事
- タイトル: ‘No one verified the evidence’: Woman says AI-generated deepfake text sent her to jail
- 著者: Chad Pradelli and Cheryl Mettendorf
- 発行元: WPVI (6abc.com)
- 発行日: 2026年1月9日
- URL: https://6abc.com/post/no-verified-evidence-woman-says-ai-generated-deepfake-text-sent-jail-action-news-investigation/18373467/
要点
- フロリダ州でMelissa Simsという女性が、元ボーイフレンドによって作成されたAI生成の偽テキストメッセージを根拠に保釈条件違反で逮捕され、2日間投獄された
- 逮捕時に提出された証拠テキストメッセージについて、誰も真偽を検証しなかった
- AI検出ツールの性能にばらつきがあり、同じ画像を3つの検出ソフトウェアで分析した結果、AI生成である確率が1%から62%までの異なる結果が出た
- 8ヶ月の法廷闘争の末、検察は保釈条件違反の告訴を取り下げ、元の暴行罪についても彼女は無罪となった
- ペンシルベニア州では2024年7月、AIディープフェイクによる詐欺や搾取を重罪とする新法がJosh Shapiro知事によって署名された
詳細解説
事件の経緯
WPVIの報道によれば、Melissa Simsさんは2024年11月、元ボーイフレンドとの口論中に警察を呼びました。彼女の証言では、元ボーイフレンドが自分自身の顔を叩いたり、引っ掻いたりする行為があったとのことです。一方で、警察が到着した際、彼女は暴行罪で逮捕されました。
保釈条件として、裁判所は彼女に対して元ボーイフレンドと接触せず、話さないよう命じました。数ヶ月後、元ボーイフレンドが彼女の名前を騙ってAI生成したテキストメッセージを作成し、そのメッセージには元ボーイフレンドを中傷する内容が含まれていました。このテキストメッセージが証拠として提出され、彼女は保釈条件違反で再び逮捕されました。
「誰も証拠を検証しませんでした」と彼女は述べています。フロリダの刑務所で2日間を過ごした経験について、彼女は「映画『オレンジ・イズ・ニュー・ブラック』で見るような状況でした。基本的に一般囚人区画に入れられました」と振り返っています。
司法制度におけるAIディープフェイクの脅威
コロンビア特別区上級裁判所の上席判事であり、元フィラデルフィア警察長官Charles Ramseyとともに刑事司法評議会のメンバーを務めるHerbert Dixon判事は、Simsさんの事例が増加傾向にあると指摘しています。
Dixon判事によれば、「数年前は偽の音声記録から始まりました。今では偽のビデオや偽の画像が作成されるところまで来ています」とのことです。刑事司法評議会は、刑事司法制度における政策を前進させることを使命としており、その取り組みの一つとして「人工知能の責任ある使用のための枠組みを開発しようとしています」と説明しています。
報道陣からの「AI時代において、検察官や警察は告訴を行う前により適切な精査を行う必要があるのか、それとも法廷での判断に委ねるべきか」という質問に対し、Dixon判事は「何らかの精査が必要です」と答えました。
この発言は、従来の証拠収集プロセスでは十分に対応できない新たな課題が生じていることを示唆していると考えられます。デジタル証拠、特にテキストメッセージやチャット履歴は、これまで比較的信頼性の高い証拠として扱われてきましたが、AI技術の進化によってその前提が崩れつつあります。
AI検出技術の限界
Drexel大学でAIフォレンジックを教えるRob D’Ovidio教授は、「怖いことですが、私たちは目の前で見るものを信頼できなくなりつつあります」と警告しています。
D’Ovidio教授は、AI生成のビデオ、テキスト、その他の証拠を見分けることが困難になってきていると指摘します。その理由として、「AIが単純に優秀すぎる」ことを挙げています。さらに深刻な問題として、「検出ツールがそうした能力に追いついていない」と述べています。
具体的な例として、教授はAI生成の写真を作成し、3つの異なる著名なAI検出ソフトウェアプログラムに入力しました。その結果、3つすべてが異なる結果を出し、その写真が合成またはAI生成である確率は1%から62%までの範囲に及びました。
この実験結果は、現在のAI検出技術の信頼性に大きな疑問を投げかけています。同じ画像に対して60倍以上の差がある判定結果が出るということは、これらのツールを証拠の真偽判定に使用することが極めて危険であることを示しています。
D’Ovidio教授は、「現在の標準は、反証されない限り信頼する、というものです。私たちはその考え方を転換し、検証されるまで疑う必要があると思います」と述べています。この発言は、デジタル証拠に対する司法制度の基本姿勢を根本的に見直す必要性を示唆していると言えます。
事件の結末と今後の展望
Simsさんの事件には前向きな結末がありました。彼女の弁護士による8ヶ月間の法廷闘争の後、検察は保釈条件違反の告訴を取り下げました。さらに、先月行われた暴行罪の裁判で彼女は無罪判決を受けました。
現在、Simsさんは自身の経験を共有し、AI証拠基準と罰則を定める新法の制定を提唱する活動を行っています。「これが私に起こったなら、誰にでも起こり得ます」と彼女は述べています。
一方、ペンシルベニア州では2024年7月、Josh Shapiro知事がデジタル偽造に関する新法に署名しました。この法律は、州内で傷害、搾取、または詐欺を目的としてAIディープフェイクを作成することを重罪としています。
ただし、この種の法律が実際の司法現場でどこまで効果を発揮するかは、今後の運用次第と考えられます。特に、AI生成コンテンツの検出技術が十分に確立されていない現状では、法律が存在しても証拠の真偽判定という根本的な課題は残ります。
まとめ
AI生成の偽テキストメッセージによって女性が投獄された本事例は、司法制度が直面する新たな課題を浮き彫りにしました。証拠の検証プロセスの見直しと、AI検出技術の向上が急務と言えます。デジタル証拠に対する「疑いの目」を持つことが、今後の司法運営において重要になってきています。
