［ニュース解説］軍事AIは新時代へ：生成AIがもたらす変化と３つの課題

はじめに

　近年、目覚ましい発展を遂げるAI（人工知能）技術は、私たちの生活やビジネスだけでなく、安全保障の領域、特に軍事分野においても急速にその応用が進んでいます。本稿では、MIT Technology Reviewに掲載された記事「Phase two of military AI has arrived」を基に、米軍における生成AI活用の最前線と、それに伴う重要な論点について、技術的な観点から分かりやすく解説します。

引用元:

• タイトル: Phase two of military AI has arrived
• URL: https://www.technologyreview.com/2025/04/15/1115078/phase-two-of-military-ai-has-arrived/
• 発行元: MIT Technology Review
• 発行日: 2025年4月15日

要点

• 米軍では、監視情報の分析などに生成AI（人間のような対話が可能なAI）の活用が始まっており、これは軍事AI活用の「フェーズ2」と位置付けられています。（フェーズ1は2017年頃からの画像認識AI等の活用）
• この動きは、AIによる効率化への期待がある一方、AIの安全性や判断の妥当性、特に地政学的に機微な状況での情報分析能力について懸念も提起されています。
• 生成AIの軍事利用拡大に伴い、特に以下の3つの点が重要な論点として浮上しています。
  1. 「ヒューマン・イン・ザ・ループ（Human in the loop）」（人間がAIの作業をチェックする体制）の限界
  2. AIによる情報分析がもたらす機密指定の難しさ（Classification by compilation）
  3. AIが意思決定プロセスにおいてどこまで関与すべきか

詳細解説

1. 軍事AI「フェーズ2」：生成AIの登場

　記事によると、米海兵隊の一部隊員が、太平洋地域での訓練演習において、ChatGPTのようなチャットボット形式のインターフェースを持つ生成AIを初めて使用し、監視・諜報活動で得られた情報の分析を行いました。

　これは、2017年頃から始まった、ドローン映像の分析などにコンピュータービジョン（画像認識AI）を用いるといった「フェーズ1」に続く、軍事AI活用の新たな段階「フェーズ2」の到来を示しています。特に、現在の政権下でAIによる効率化が強く推進されていることも、この動きを加速させている要因の一つです。

2. 生成AI活用に伴う懸念

　一方で、この動きはAIの安全性に関する専門家から警鐘が鳴らされています。特に、大規模言語モデルが、地政学的に非常にデリケートな状況下で、機微な情報を正確に分析できるのかという点です。

　さらに、AIが単にデータを分析するだけでなく、例えば攻撃目標のリストを作成するなど、具体的な行動を提案する未来も現実味を帯びてきています。推進派は、これにより精度が向上し、民間人の犠牲者が減ると主張しますが、多くの人権団体は逆の懸念を示しています。

3. 提起される３つの重要な論点

　生成AIが「キルチェーン」（目標の特定から攻撃実行に至るまでの一連のプロセス）のより多くの部分に関与していく中で、以下の3つの点が未解決の重要な問いとして挙げられています。

3.1. 「ヒューマン・イン・ザ・ループ」の限界はどこにあるのか？

　防衛技術関連企業がよく口にする「ヒューマン・イン・ザ・ループ」とは、AIが特定のタスクを実行し、人間がその結果を検証・監督するという考え方です。これは、AIが誤って致命的な攻撃命令を出すといった最悪のシナリオや、より些細なミスを防ぐための安全策とされています。しかし、AIが膨大なデータに基づいて結論を導き出す場合、人間がその妥当性を一つ一つ検証するのは非常に困難です。AI Now Instituteの主任AI科学者であるHeidy Khlaaf氏は、「AIが何千ものデータポイントに依存して結論を出す場合、人間がその膨大な情報をふるいにかけてAIの出力が誤っているかどうかを判断することは現実的に不可能だろう」と指摘しており、AIが扱うデータが増えるほど、この問題は深刻になります。

3.2. AIは機密情報の判断を容易にするのか、それとも困難にするのか？

　従来、機密情報は専門家によって作成され、「トップシークレット」として厳格に管理されてきました。しかし、ビッグデータの時代、そしてそれを分析する生成AIの登場により、この前提が覆されつつあります。

　特に問題となるのが「Classification by compilation（編集による機密指定）」と呼ばれる問題です。これは、個々には機密扱いではない多数の文書に含まれる断片的な情報をAIが組み合わせることで、本来機密であるべき重要な情報が明らかになってしまう可能性を指します。かつては人間には不可能と考えられていましたが、これは大規模言語モデルが得意とするタスクです。日々増大するデータと、それに基づいてAIが生成する新たな分析結果に対し、「これらの生成物すべてに対して適切な機密レベルをどう設定すべきか、明確な答えはまだ出ていない」と、RANDの上級エンジニアであるChris Mouton氏は述べています。機密レベルを低く設定しすぎれば安全保障上のリスクとなり、高く設定しすぎれば情報の活用が妨げられるというジレンマがあります。

3.3. AIは意思決定プロセスのどこまで関与すべきか？

　軍事分野でのAI導入は、多くの場合、消費者向け技術のトレンドを追随してきました。写真アプリが友人を認識できるようになった頃、米国防総省はドローン映像を分析して標的を特定する「Project Maven」を開始しました。そして今、ChatGPTのような生成AIが私たちの仕事や生活に入り込むのに伴い、国防総省も同様のモデルを監視情報の分析に活用し始めています。

　次に来るのは、ユーザーに代わってインターネット上で情報収集やタスク実行を行う「エージェントAI」や、個人のデータから学習してより役立つようになる「パーソナライズドAI」であると予想されます。軍事用AIモデルもこの流れを追う可能性が高いと考えられます。ジョージタウン大学の報告書によると、特に作戦レベルでの意思決定支援において、AI導入が急増していることが示されています。

　AIが単なる事務作業だけでなく、極めて重要かつ時間的制約の厳しい意思決定を支援する役割へと急速に移行していることは明らかです。これには一定の安全策が設けられていますが、技術革新と規制のバランスを取りながら、AIの役割をどこまで許容するのか、慎重な議論が求められます。

まとめ

　本稿では、米軍における生成AI活用の進展と、それに伴う「ヒューマン・イン・ザ・ループ」の限界、機密指定の新たな課題、そしてAIの意思決定への関与レベルという3つの重要な論点について解説しました。生成AIは軍事分野に効率化や精度向上といった恩恵をもたらす可能性がある一方で、その能力と限界を正しく理解し、倫理的・安全保障上の課題に慎重に対処していく必要があります。この技術が今後どのように進化し、安全保障のあり方にどのような影響を与えていくのか、引き続き注視していくことが重要です。