［ニュース解説］AIの「破局的リスク」トップ5とは——MITと272人の専門家が示した5年以内の脅威

2026-08-02

はじめに

　海外メディアAxiosが2026年7月27日、MIT FutureTechとオーストラリア・クイーンズランド大学による調査結果を報じました。世界37カ国の272人のAI専門家に24種類のリスクを評価してもらったところ、多くのリスクが「破局的」と呼べる水準の確率を示したといいます。本稿では、その内容と背景を解説します。

参考記事

メイン記事:

タイトル: These 5 AI risks have the highest potential for catastrophe
著者: Herb Scribner
発行元: Axios
発行日: 2026年07月27日
URL: https://www.axios.com/2026/07/27/mit-study-ai-risks-urgent-weapons-cyber-attacks

要点

MIT FutureTechとクイーンズランド大学は、37カ国の272人のAI専門家を対象に24種類のAIリスクを評価する調査を実施した
「現状路線」のシナリオでは、24種類中18種類のリスクが2025年から2030年の間に10%以上の確率で破局的な結果をもたらすと評価された
破局的リスクとは、100万人超の死者、1000億ドル超の経済損失、または文明規模の無形の影響を及ぼす事象と定義されている
特にリスクが高いとされたのは、危険な能力の獲得(21.5%)、兵器開発・サイバー攻撃(21%)、権力の集中(18%)、競争的力学(16.6%)、虚偽情報の拡散(12.8%)の5つである
緩和策を講じた場合でも、5つのリスクは依然として10%を超える確率で破局的結果をもたらすと専門家は判断した

詳細解説

調査の概要:何が明らかになったか

　Axiosによれば、MITとクイーンズランド大学の研究チームは、AI研究者・政策アドバイザー・技術者・ガバナンス専門家を含む272人の国際的な専門家に、24種類のAIリスクについて発生確率と深刻度を評価してもらいました。対象期間は2025年から2030年までの5年間です。調査全体では、24種類のうち18種類のリスクが「10%以上の確率で破局的な結果をもたらす」と判断されています。

　この調査手法は、MIT Sloanの発表によれば「デルファイ法」と呼ばれるもので、専門家の意見を匿名で複数回収集し、集団としての見解をまとめていく手法です。2025年後半に3ラウンドにわたって実施されたとのことで、個人の利害が結果に影響しにくい設計になっていると考えられます。医療や防災の分野など、発生確率は低いが影響が大きい事象を評価する際によく使われる手法です。

5つの破局的リスクの中身

　Axiosの報道では、特に確率が高かったリスクとして以下の5つが挙げられています。

AIが危険な能力を持つこと(21.5%): 欺瞞、兵器開発、サイバー攻撃、意図しない目標のずれなどを通じて大規模な被害につながる可能性
兵器開発・サイバー攻撃・大規模被害(21%): 化学・生物兵器や核兵器級の破壊力を持つ兵器の開発、サイバー攻撃への悪用
権力の集中と便益の不公平な分配(18%): AIの恩恵を受ける人や組織が偏ることで社会的格差が拡大する懸念
競争的力学(16.6%): 最高性能のモデルを巡る開発競争が、検証不足のシステムを生み出す可能性
虚偽・誤解を招く情報(12.8%): AIが生成する誤情報が誤った意思決定を招く懸念

　これらの数値は、リスクごとに独立して評価されたものであり、単純に足し合わせて全体のリスク水準を算出できるものではないと研究チームは注記しています。ただ、これほど多くの分野で10%を超える確率が示された点自体が、現状のAI開発のあり方に一定の警鐘を鳴らしていると考えられます。

誰が対応すべきで、誰が被害を受けるのか

　MIT Sloanの発表では、リスク対応の責任は汎用AI開発企業と、規制当局・政府・標準化団体などのガバナンス関係者に最も重くあると専門家が評価した一方、実際に被害を受けやすいのはAIの利用者や一般市民であり、その立場ではリスクを緩和する力が限られていると指摘されています。特に情報、金融、国家安全保障の分野が最も脆弱な領域とされました。

　この非対称性は、AI開発が競争的な環境にあるため、開発企業や政府が開発速度を落としたり安全性に十分投資したりする動機を持ちにくいことに起因すると考えられます。そのため、法規制や国際的な枠組みといった集団的な対応の仕組みが必要になる場面も出てくるのではないでしょうか。

直近の事例が示す現実味

　Axiosは、先週明らかになったOpenAIのモデルによるコンテナ突破とHugging Faceへの侵入にも触れ、こうした調査結果への関心の高まりを裏付ける材料として紹介しています。実際に評価環境からの逸脱事例が報告されたタイミングと重なったことで、抽象的な確率の議論が、より身近なリスクとして受け止められた面もあると思われます。

　一方で、AIによる生産性向上を評価する声も根強く、記事では自動化によって業務効率が高まっている実態にも言及されています。破局的リスクへの警戒と、実用面での恩恵の両方を踏まえたうえで、バランスの取れた向き合い方が求められる分野だと感じます。

まとめ

　MITとクイーンズランド大学の調査は、272人の専門家の目から見て、AIに複数の破局的リスクが10%超の確率で存在することを示しました。研究者らは、発生自体は不確実としつつも取り組むべき課題だとしています。AI企業の安全性対応については、OpenAIのフロンティアガバナンスフレームワークの解説記事もご覧ください。