［ニュース解説］高性能AIの落とし穴：なぜAIは嘘をつくのか？

はじめに

　近年、目覚ましい進化を遂げているAI（人工知能）ですが、その一方で「幻覚（ハルシネーション）」と呼ばれる、事実に基づかない情報を生成してしまう問題が深刻化しています。特に、最新の「推論型」AIシステムにおいて、この問題が悪化しているという報告があります。本稿では、ニューヨーク・タイムズの記事を元に、AIの幻覚問題の現状、原因について、技術的な側面も踏まえながら分かりやすく解説します。

引用元記事

• タイトル: A.I. Is Getting More Powerful, but Its Hallucinations Are Getting Worse
• 発行元: The New York Times
• 発行日: 2025年5月5日
• URL: https://www.nytimes.com/2025/05/05/technology/ai-hallucinations-chatgpt-google.html

要点

• ChatGPTの登場から2年以上が経過し、AIは様々なタスクで利用されていますが、情報の正確性を保証する方法は未だ確立されていません。
• OpenAIやGoogleなどが開発する最新の「推論型」AIシステムは、以前のモデルよりも誤った情報を生成する頻度が高くなっています。あるテストでは、幻覚率が最大79%に達しました。
• AIは膨大なデータから学習する複雑な数学的システムであり、真偽を判断する能力はありません。確率に基づいて最適な応答を推測するため、一定の誤りが生じます。この現象は「幻覚（ハルシネーション）」と呼ばれます。
• 幻覚の増加の原因としては、強化学習への依存度向上や、多段階の思考プロセスにおけるエラーの蓄積などが考えられていますが、完全には解明されていません。
• AIの幻覚は、検索結果の誤りから、ビジネスや医療、法務など重要な分野での深刻な問題を引き起こす可能性があります。

詳細解説

AIの「幻覚（ハルシネーション）」とは？

　AIにおける「幻覚（ハルシネーション）」とは、AIが事実に基づかない情報や、学習データに含まれていない情報を、あたかも事実であるかのように生成してしまう現象を指します。これは、AIが人間のように知識や常識に基づいて「理解」しているわけではなく、膨大なデータから学習したパターンに基づいて、統計的に最もそれらしい単語の連なりを予測して出力しているために起こります。AIは、何が「真実」で何が「偽り」かを判断するメカニズムを持っていないのです。

なぜ最新AIで幻覚が悪化しているのか？

　記事によると、皮肉なことに、より高度な「推論能力」を持つとされる最新のAIシステム（OpenAIのo3やo4-mini、DeepSeekのR1など）で、幻覚の発生率が高まっていると報告されています。Vectara社の調査では、特定のニュース記事を要約させるタスクにおいて、以前のモデルでは1～2%程度に抑えられていた幻覚率が、DeepSeek R1では14.3%、OpenAI o3では6.8%に上昇しました。OpenAI自身のテストでも、o3は人物に関する質問応答テスト（PersonQA）で33%、より一般的な質問応答テスト（SimpleQA）では51%もの幻覚率を示し、これは以前のモデルo1の2倍以上です。

　この原因は完全には解明されていませんが、以下の要因が指摘されています。

1. 強化学習への偏重: インターネット上のテキストデータをほぼ学習し尽くしたため、AI開発企業は「強化学習」という手法への依存度を高めています。これは、試行錯誤を通じて特定のタスク（数学やプログラミングなど）の能力を向上させるのに有効ですが、その過程で他のタスク（事実に基づいた応答など）に関する能力が低下してしまう可能性があります。特定の能力を伸ばす代わりに、別の能力を「忘れてしまう」ような現象が起きているのかもしれません。
2. 多段階思考のリスク: 推論型モデルは、複雑な問題に対して段階的に「思考」するように設計されています。しかし、各思考ステップで幻覚を起こすリスクがあり、ステップが増えるほどエラーが蓄積・増幅される可能性があります。さらに、AIが表示する「思考プロセス」が、最終的な回答と必ずしも一致しているわけではないことも指摘されています。

AIの幻覚がもたらす問題

　AIの幻覚は、単なる笑い話では済まされない場合があります。

• 誤った情報の拡散: 検索エンジンに統合されたAIが誤った情報を提供したり、存在しない情報源を引用したりするケースがあります。
• ビジネス上の損害: 記事で紹介されているCursor社の例のように、AIサポートボットが存在しないポリシー変更を告知し、顧客の混乱やアカウント解約を招いたケースがあります。
• 専門分野でのリスク: 医療情報、裁判資料、機密性の高いビジネスデータなど、正確性が極めて重要な分野でAIを利用する場合、幻覚による誤情報は深刻な結果を招く可能性があります。生成された情報が事実かどうかを人間が検証する手間が増え、自動化による効率化というAI導入のメリットが損なわれることにもなりかねません。

日本への影響と考慮すべきこと

　AI技術の導入は日本でも急速に進んでいますが、この幻覚問題は、私たち日本のビジネスや生活にも無視できない影響を与えます。

• ビジネスにおける注意: AIを顧客対応、文書作成、情報収集などに利用する企業は、AIの回答を鵜呑みにせず、必ずファクトチェックを行う体制を整える必要があります。特に、契約書や規約の解釈、専門的なレポート作成など、誤りが許されない業務では、AIの利用に慎重な判断が求められます。安易な導入は、企業の信用失墜や損害につながるリスクがあります。
• 情報リテラシーの重要性: 個人レベルでも、AIが生成した情報を批判的に吟味する能力（情報リテラシー）がますます重要になります。特に、ニュース記事の要約や専門的な解説をAIに任せる場合、その情報が本当に正しいのか、他の情報源と照らし合わせる習慣が必要です。
• 日本語特有の課題: AIモデルの多くは英語を中心に学習されているため、日本語のニュアンスや文脈の理解が不十分な場合があります。これにより、日本語特有の幻覚が発生する可能性も考慮に入れるべきでしょう。
• 開発と規制のバランス: 日本国内でのAI開発や研究においても、この幻覚問題を抑制するための技術開発が重要になります。同時に、AI利用に関する適切なガイドラインや規制について、社会全体で議論していく必要もあるでしょう。

まとめ

　AIはますます強力になっていますが、その一方で「幻覚」という、事実に基づかない情報を生成してしまう問題が、特に最新の推論型システムにおいて深刻化しています。これは、AIが確率に基づいて応答を生成するという基本的な仕組みや、最新の学習手法（強化学習）、多段階思考プロセスに起因すると考えられています。　AIの幻覚は、単なる不具合ではなく、ビジネスや社会に深刻な影響を与える可能性を秘めています。日本においても、企業や個人がAIを利用する際には、その限界を理解し、情報の正確性を常に疑い、検証する姿勢が不可欠です。AIの恩恵を最大限に享受するためにも、この幻覚問題への継続的な研究と対策、そして私たち自身の情報リテラシー向上が求められています。