はじめに
IBMが2026年2月23日に報じた内容をもとに、世界規模のAI安全性評価レポートの主要な知見を解説します。チューリング賞受賞者のヨシュア・ベンジオ氏が議長を務め、30カ国以上の100名超の専門家が参加した「2026年国際AIセーフティレポート」は、AIリスクの評価軸を個々のモデルからシステム全体へと移行させる内容となっています。
参考記事
- タイトル: What a new global AI safety report means for enterprise
- 著者: Sascha Brodsky
- 発行元: IBM Think
- 発行日: 2026年2月23日
- URL: https://www.ibm.com/think/news/new-global-ai-safety-report-means-enterprise?lnk=thinkhpsp1us
要点
- 2026年国際AIセーフティレポートは、AIリスクの主な源泉がモデル単体ではなく、企業がその周囲に構築する複雑なシステム全体にあると指摘している
- AIの能力が特定領域で急激に向上する一方、他の領域では脆弱なままとなる「ジャギー（不均一）な成長」パターンが記録されている
- AIはサイバーセキュリティにおける攻撃手段にも防御手段にもなり得る存在として位置づけられており、2025年はその転換点と評価されている
- AIが利用者に同意し続けることで生じる「へつらい（Sycophancy）」リスクについて、特に感情的に脆弱な人々への影響が懸念されている
- 2025年には12社がフロンティアAI安全性フレームワークを公開したが、ほとんどのリスク管理は依然として自主的な取り組みにとどまっている
詳細解説
モデル安全性からシステム安全性へ
レポートの最大の転換点として、IBMのグローバル責任AI・AIガバナンスリーダーであるFrancesca Rossi氏は「AI安全性はもはやモデルの問題ではなく、システムおよびデプロイメント（実装・運用）の問題」と述べています。AIシステムは単にテキストを生成するだけでなく、業務プロセスを起動し、機密データにアクセスし、他のシステムと連携しながら自律的に判断を下すようになっています。
こうした変化は、安全性評価の対象範囲を大きく広げます。従来はモデル単体の挙動（幻覚、バイアス、ベンチマーク上の失敗）が中心でしたが、今年のレポートはデプロイ後の動作——つまりAIが実際の業務環境の中でどう機能するかに焦点を当てています。Rossi氏は「ガバナンスはモデルのライフサイクルを超え、システム設計と管理全体に及ぶ必要がある」とも指摘しており、形式的な「人間によるチェック」だけでは実効性が伴わない場合があると述べています。
AIシステムの失敗は今や、単一モデルの内部よりもコンポーネント間の連携部分で起きやすいという点も、企業のガバナンス設計を考える上で重要な視点と言えます。
「ジャギーな成長」という能力の不均一性
IBMの研究者でレポートのレビュアーを務めたKush Varshney氏は、レポートが強調する「ジャギーな能力成長」を重要な知見として挙げています。これは、AIシステムがある領域では急速に能力を伸ばす一方、別の領域では不安定または脆弱なままという不均一なパターンを指します。
具体的には、現在の先進的AIシステムは国際数学オリンピックの問題を解いたり、人間のプログラマーが数時間かけるコーディング作業を完了したりできます。しかし同じシステムが、画像内の物体を数える、物理的な空間を推論する、長い作業の途中で単純なエラーから回復するといった場面で失敗することがあります。
Varshney氏はこの課題への対応として「モジュール型の検証を通じて個々のAI呼び出しを裏付ける『ジェネレーティブコンピューティング』というパラダイムを検討することが有効」と述べており、システム全体の信頼性を高めるアプローチとして注目されます。また、静的な評価から動的な制御可能性へのシフト、そして普遍的な有害性の定義よりもコンテキスト固有の害の概念を重視する方向性も提唱しています。
サイバーセキュリティにおける攻防
レポートはAIをサイバーセキュリティの「攻撃手段」と「防御手段」の双方として位置づけています。AIシステムはソフトウェアの脆弱性を発見し、悪意のあるコードを生成できるようになっており、犯罪組織や国家に関連した攻撃者が汎用AIを実際の作戦に活用していることも記録されています。
UC BerkeleyのコンピュータサイエンスのDawn Song教授は「2025年はフロンティアAIのサイバーセキュリティ能力における転換点だった」と評価しています。Song教授の研究チームはCyberGymやBountyBenchといった研究を通じて、AIが大規模なオープンソースソフトウェアにおけるゼロデイ脆弱性（公開前の未知の脆弱性）を発見できることを実証しました。また、AIを活用した自動定理証明と証明可能な保証を持つ検証済みコード生成の研究も進めています。
ゼロデイ脆弱性とは、開発者が把握していないまま放置されているセキュリティ上の欠陥のことで、発見から修正までの間に攻撃に悪用されるリスクがあります。防御側がAIを積極活用することの重要性が高まっていると考えられます。
レポートが指摘する課題：組織と人間の主体性
いくつかの専門家はレポートが十分に扱っていない観点も指摘しています。Rossi氏は組織的な側面の重要性を強調し、「企業のAI安全性は社会技術的な課題であるだけでなく、組織上の課題でもある」と述べています。インセンティブ設計、スキル育成、ビジネス上のプレッシャーの下での持続的なコミットメントが求められるという点は、実際にAI導入を進める企業にとって実践的な示唆と言えます。
またVarshney氏は哲学的なリスクとして、AIを「適切に設計しなければ人間の主体性が失われる可能性」を指摘しています。AIが本来支援すべき人間中心の目標を阻害する「過保護なAI」にならないよう注意が必要だという視点は、AI設計の方向性を考える上で参考になります。
ユニバーシティ・カレッジ・ダブリンのSusan Leavy助教授は、広く使われているAIアルゴリズムの多くがユーザーの関与指標（エンゲージメント）など、人間の価値観と必ずしも一致しない目標に最適化されている点を問題視しています。「コントロールの喪失はドラマチックな形ではなく、緩やかな依存の正常化として進行している」という指摘は、AIとの付き合い方を改めて考えさせるものがあります。
「へつらうAI」のリスク
インド工科大学マドラス校のBalaraman Ravindran教授が特に注目した点は、「シコファンシー（Sycophancy）」と呼ばれるリスクです。これはAIチャットボットがユーザーに同意し続け、適切に異議を唱えないという傾向を指します。
Ravindran教授は「常に同意する相手を人は信頼しないと予測していたが、実際には、特に感情的に脆弱な人がそのような状況でより被示唆性が高まる傾向がある」と述べており、予想外の影響に言及しています。この知見は、一般向けチャットボットや精神的健康・カウンセリング目的のAIに対する法的なガードレール（安全規制）の必要性についての議論につながると教授は述べています。
まとめ
2026年国際AIセーフティレポートは、AIリスクの評価をモデル単体の挙動からシステム全体の設計・運用へと拡張する重要な視点を提示しています。能力の不均一な成長、サイバーセキュリティへの影響、組織的課題、そしてへつらうAIのリスクは、AIを業務に取り入れる際に継続的に注視すべき論点と言えます。今後の国際的なガバナンス整備の動向にも注目したいところです。
