はじめに
NBCニュースが2026年1月9日に報じた記事によれば、AI技術の急速な進化により、オンラインでの情報に対する信頼が著しく低下していると専門家が警告しています。本稿では、この報道をもとに、AIが生成する偽情報が実際のニュースとどのように混在し、人々の信頼をどう損なっているのかを解説します。
参考記事
- タイトル: AI is intensifying a ‘collapse’ of trust online, experts say
- 著者: Angela Yang
- 発行元: NBC News
- 発行日: 2026年1月9日
- URL: https://www.nbcnews.com/tech/tech-news/experts-warn-collapse-trust-online-ai-deepfakes-venezuela-rcna252472
要点
- 2026年初頭から、ベネズエラのマドゥロ大統領逮捕やミネソタでのICE警官による射殺事件など、重大ニュースの周りでAI生成画像や改変動画が急速に拡散している
- スタンフォード大学の専門家は、画像や動画だけでは偽物かどうかを検出することが本質的に不可能になりつつあると指摘している
- 人々は真偽を判断する認知的疲労に直面し、真実を求めるモチベーション自体を失う可能性がある
- UC Berkeleyの研究では、人々は本物を偽物と言うのと同じくらい、偽物を本物と言う傾向があることが判明した
- 専門家は、メディアリテラシー教育の必要性と、情報源や共有動機への注意を呼びかけている
詳細解説
AIコンテンツによる信頼の崩壊
NBCニュースによれば、2026年の最初の1週間だけで、重大ニュースの周りにAI生成コンテンツが急速に拡散する事例が複数発生しました。トランプ大統領のベネズエラ作戦では、AI生成画像、古い動画、改変された写真がソーシャルメディア全体に広がりました。水曜日にICE警官が車内の女性を射殺した事件では、多くの人々が偽物と思われるAI編集された現場画像を拡散し、他の人々はAIを使って射撃したICE警官のマスクをデジタルで除去しようと試みたとのことです。
スタンフォード大学ソーシャルメディアラボの創設ディレクターであるJeff Hancock氏は、「AIを心配し始めると、少なくとも短期的には、私たちの信頼のデフォルト設定、つまり何らかの理由で不信を抱くまでコミュニケーションを信じるという設定が損なわれる可能性が高い」と述べています。この「信頼のデフォルト設定」という概念は、人間が通常、情報を受け取った際に疑うのではなく信じる傾向があることを指します。
検出の困難性
Hancock氏は、画像や動画を見ただけでは偽物かどうかを検出することが本質的に不可能になると指摘しています。従来のAIリテラシーの考え方、例えば「指の数を見る」といった手法は、もはや有効ではなくなりつつあると考えられます。AI技術の進化により、こうした初期の検出方法では対応できないほど、生成されるコンテンツの品質が向上しているためです。
ロードアイランド大学のコミュニケーション研究教授であるRenee Hobbs氏は、AIを研究する研究者にとっての主な課題は、人々がオンライン上の膨大な量の本物と合成コンテンツをナビゲートしようとする際に認知的疲労に直面することだと述べています。この疲労により、何が本物で何がそうでないかを選別することがさらに困難になると考えられます。
信頼崩壊の心理的影響
Hobbs氏は重要な指摘をしています。「何を信頼すべきかについての絶え間ない疑いと不安が常態化すれば、実際には離脱が論理的な反応になります。それは対処メカニズムです。そして人々が何かが真実かどうかを気にしなくなると、危険なのは単なる欺瞞ではなく、実際にはそれ以上に悪いことです。真実を求めるモチベーションさえ持たなくなることの全面的な崩壊です」
この指摘は、AI生成コンテンツの問題が単に偽情報の拡散だけでなく、人々の真実に対する関心そのものを損なう可能性があることを示しています。
確証バイアスの影響
UC Berkeley情報学部のコンピューターサイエンス教授であるHany Farid氏の研究では、ディープフェイク検出に関する興味深い発見がありました。人々は本物を偽物と言うのと同じくらい、偽物を本物と言う傾向があるとのことです。さらに、政治的な含みを持つコンテンツを見せられると、精度は大幅に悪化します。
Farid氏は、「あなたの世界観に合致するものを送ると、あなたはそれを信じたいと思います。信じるインセンティブがあります。そして、あなたの世界観と矛盾するものであれば、『ああ、それは偽物だ』と言うインセンティブが非常に高い」と説明しています。確証バイアスとは、自分の既存の信念を支持する情報を選択的に受け入れる傾向を指す心理学用語です。
プラットフォームの対応と懸念
InstagramのトップであるAdam Mosseriは、最近のThreadsへの投稿で、AIによる誤情報がプラットフォーム全体でより一般的になることへの懸念に触れました。「私の人生のほとんどの間、私が見る写真や動画の大部分は、現実の生活で起こった瞬間のほぼ正確な捉え方であると安全に仮定できました。これは明らかにもはや当てはまりません。人々としての私たちが適応するには何年もかかると思います」と述べています。
Mosseriは、インターネットユーザーが「見るものはデフォルトで本物だと仮定することから、メディアを見るときに懐疑的に始め、誰が何かを共有しているのか、なぜ共有しているのかにはるかに多くの注意を払う」ように移行すると予測しています。
対策と今後の展望
経済協力開発機構(OECD)は、2029年に15歳を対象とした世界的な「メディアと人工知能リテラシー評価」をリリースする予定です。これは、生成AIをメディアリテラシー教育にどのように組み込むかを研究する専門家の取り組みの一環と考えられます。
Buffalo大学のコンピューターサイエンス教授であるSiwei Lyu氏は、日常的なインターネットユーザーが注意を払うだけでAI検出スキルを向上できると述べています。DeepFake-o-meterというオープンソースのAI検出プラットフォームの維持を支援しているLyu氏は、「多くの場合、メディア自体に何か問題があるわけではなく、間違った文脈で、または完全に信頼できない誰かによって掲載されている」と指摘しています。
Lyu氏は、「総じて、共通の認識と常識が私たちが持つ最も重要な保護手段であり、特別なトレーニングは必要ありません」と強調しています。これは、技術的な検出ツールだけでなく、情報の出所や文脈を批判的に評価する姿勢が重要であることを示していると思います。
まとめ
NBCニュースの報道によれば、AI技術の進化により、オンライン上の情報に対する信頼が著しく低下しています。専門家は、視覚的な検出だけでは偽物を見分けることが困難になりつつあり、確証バイアスが問題を悪化させていると警告しています。この状況に対して、メディアリテラシー教育の強化と、情報源や共有動機への注意深い評価が求められています。真実を求めるモチベーションそのものが失われる前に、私たち一人ひとりが批判的思考を養う必要があると言えます。
