はじめに
米国の法廷・裁判所向けAI政策コンソーシアム（NCSC・Thomson Reuters Institute共同）が2026年2月16日、弁護士や裁判官などの法律実務家を対象としたAI活用ガイド「A Legal Practitioner’s Guide to AI and Hallucinations」を公開しました。本稿では、このガイドをもとにAIの実務における安全な活用方法を解説します。
参考記事
- タイトル: A Legal Practitioner’s Guide to AI and Hallucinations
- 著者: Mark H. Francis、Ashwini Jarral（TRI/NCSC AI Policy Consortium for Law & Courts）
- 発行元: National Center for State Courts（NCSC）
- 発行日: 2026年2月16日
- URL: https://www.ncsc.org/resources-courts/legal-practitioners-guide-ai-hallucinations
要点
- LLM（大規模言語モデル）は「正しい文章」ではなく「それらしい文章」を生成するため、存在しない判例や法令を作り出す「ハルシネーション」が起きる
- ハルシネーションの具体例として、架空の判例名・引用番号の生成、判決内容の歪曲、裁判手続きに関する誤情報などが挙げられている
- 米国の裁判所は、ハルシネーションを含む書面を提出した弁護士への制裁措置を強化しつつある
- 安全な活用の基本原則は「Never Trust, Always Verify（決して信頼せず、必ず検証する）」であり、すべてのAI出力を一次資料で確認することが求められる
- リスクの高さに応じて使い方を3段階（低・中・高リスク）に分類し、高リスク用途では必ず人間の判断を介在させることが推奨されている
詳細解説
AIが法律実務にもたらす可能性と課題
AIは法律実務のあり方を大きく変えつつあります。本ガイドによれば、AIを活用したリーガルリサーチツールは、数百万件の判例・法令・規制を数秒でスキャンし、関連する法的根拠を高い精度で抽出できます。契約書レビューの場面では、リスクの高い条項の特定や、望ましくない文言の自動置き換えなども可能になっています。
さらに注目されるのが、法律サービスへのアクセス格差の解消という側面です。チャットボットや仮想アシスタントが、弁護士なしで訴訟を行う一般市民（本人訴訟人）の書面作成や申請手続きを支援することで、従来は費用面から法的支援を受けられなかった人々にも門戸が開きつつあります。
一方で、ガイドは同時に深刻なリスクも指摘しています。AIツールは効率化と費用削減の恩恵をもたらしますが、出力結果への過度な依存が重大な問題を引き起こすと説明されています。
ハルシネーションとは何か——なぜ起きるのか
本ガイドが特に強調する課題が「ハルシネーション」、すなわちAIが事実と異なる情報を生成する現象です。ChatGPTやClaude、CopilotなどのLLM（Large Language Model：大規模言語モデル）は、膨大なテキストデータ（数兆語規模）を学習し、言葉と言葉の統計的な関係性からテキストを生成します。
この仕組みの本質的な問題は、LLMが「正しい文章」ではなく「それらしい文章」を生成する点にあります。スマートフォンの予測入力が次の単語を推測するのと同じ原理ですが、はるかに大規模です。あたかも本物のように見える架空の判例を生成しても、AIにはそれが実在するかどうかを確認する仕組みが内部にありません。
ガイドが挙げるハルシネーションの主な発生パターンは次のとおりです。架空の判例名・引用番号・法的根拠の生成、判決の事実・引用・判示内容の歪曲、根拠のない法的命題の提示、裁判手続きや申請要件に関する誤情報の生成、異なる法律・法域・文脈の法的概念の混同——これらが代表的なものとして説明されています。
根本原因としては、学習データの不足や最新の法改正への未対応、特定の法的推論パターンを不適切な状況に適用すること、法律が曖昧または発展途上である場面での断定的な回答、矛盾する情報を無視した出力などが挙げられています。
注意すべきは、ハルシネーションが明らかな誤りとして現れないことです。架空の判例であっても、それらしい事件名・引用番号・判示内容を備えており、本物の法的根拠と見分けがつきにくい形で出力されます。法律分野における正確性と信頼性の要求水準の高さを考えると、この特性は特に深刻と言えます。
法的責任とリスクの高まり
本ガイドは、ハルシネーションが個別の案件や依頼人に損害をもたらすだけでなく、司法制度全体への信頼を損なうリスクがあると指摘しています。米国の裁判所は、ハルシネーションを含む書面を提出した弁護士への制裁措置を強化しつつあります。
責任の所在についても、ガイドは問題提起しています。ツールを開発した会社、ライセンスを取得した依頼主、実際に使用した弁護士のいずれが責任を負うのか、現時点では明確な答えが出ていない状況です。一方で、弁護士倫理規則との関係では、法廷への誠実義務（Rule 3.3）、職務能力の維持（Rule 1.1）、非弁護士補助者の監督責任（Rule 5.3）といった既存のルールがAI利用にも適用されると考えられます。
安全な活用のための4つの柱
ガイドは「AIを使ってよい。ただし正しく使え」という立場で、具体的な実践方法を提示しています。
① Never Trust, Always Verify（決して信頼せず、必ず検証する）
AI出力はすべて「要検証の初稿」として扱うことが求められます。具体的には、AIが示すすべての判例引用を従来型のリサーチツールで確認すること、AI要約ではなく実際の判例文を読んで引用の正確性を確かめること、法令・規制は施行日や改正状況を含め公式資料で確認すること、手続き規則も最新版を独自に確認することが必要です。
② 人間の判断と専門知識の維持
ジュニア弁護士のAIへの過度な依存を防ぎ、「都合よすぎる結果」には疑いを持つことが重要です。ガイドは特に、ハルシネーションした判例が自分の案件の事実関係と不自然なほど一致している場合は要注意と指摘しています。
③ 組織的なベストプラクティスの導入
AIを使用した草案には複数の担当者によるレビューを義務付けること、引用確認チェックリストの整備、問題事例を記録する仕組みの構築、AIツールの既知の問題を把握する担当者の指定などが、組織レベルでの推奨事項として挙げられています。
④ リスクレベルに応じた使い分け
本ガイドは、AIの用途を3段階のリスクレベルで整理することを提案しています。法的理論のブレインストーミングや文書要約などの低リスク用途では検証の負担が比較的少なくて済みます。判例の引用・言い換えや手続き要件の確認など中リスクの場面では、一次資料との照合が必要です。法的解釈や権利・デュープロセスに直接影響する判断など高リスクの用途では、より厳密な検証と人間の判断の介在が不可欠とされています。なお、AI出力を未検証のまま裁判所に提出することは「許容できない使用」と明示されています。
技術的な対策として、引用確認ソフトウェアの活用、複数のAIツールを使った結果の比較、ハルシネーション検出ツールの導入なども挙げられています。
まとめ
本ガイドが示すメッセージは明確です。AIは法律実務を効率化する有力なツールである一方、「正しい文章」ではなく「それらしい文章」を生成するという性質上、ハルシネーションのリスクは避けられません。「決して信頼せず、必ず検証する」という原則を徹底し、リスクの高さに応じた使い分けと人間の判断の介在が、安全な活用の鍵と言えます。法律分野に限らず、専門的な判断を伴う場面でAIを使う際に参考になる視点だと思います。
