はじめに
OpenAIが2026年2月13日、ChatGPTに2つの新しいセキュリティ機能を導入すると発表しました。AIシステムがWebや接続アプリと連携する機会が増える中、プロンプトインジェクション攻撃と呼ばれる新たな脅威への対策として、高リスクユーザー向けの「Lockdown Mode」と、一部機能への「Elevated Risk」ラベル表示が実装されます。本稿では、これらの機能の仕組みと企業にとっての意義について解説します。
参考記事
- タイトル: Introducing Lockdown Mode and Elevated Risk labels in ChatGPT
- 発行元: OpenAI
- 発行日: 2026年2月13日
- URL: https://openai.com/index/introducing-lockdown-mode-and-elevated-risk-labels-in-chatgpt/
要点
- OpenAIは、プロンプトインジェクション攻撃への対策として「Lockdown Mode」と「Elevated Risk」ラベルをChatGPTに導入する
- Lockdown Modeは、経営幹部やセキュリティチームなど高リスクユーザー向けのオプション設定で、ChatGPTの外部システムとのやり取りを決定論的に制限する
- Elevated Riskラベルは、追加的なリスクを伴う可能性のある機能に一貫した警告表示を行う仕組みである
- Lockdown Modeは現在、ChatGPT Enterprise、Edu、Healthcare、Teachersプランで利用可能で、数か月以内に一般ユーザーにも提供予定である
- これらの機能は、既存のサンドボックス化やURL経由のデータ流出防止などの保護策に加えて導入される
詳細解説
プロンプトインジェクション攻撃とは
OpenAIによれば、プロンプトインジェクション攻撃とは、第三者が会話型AIシステムを誤誘導し、悪意のある指示に従わせたり機密情報を漏洩させたりする攻撃手法です。AIシステムがWebブラウジングや外部アプリとの連携など、より複雑なタスクを担うようになるにつれて、このリスクは特に重要性を増していると説明されています。
この攻撃は、AIが処理する入力データの中に悪意のある指示を埋め込むことで成立します。従来のシステムでは、ユーザーからの入力とシステムへの命令が明確に分離されていましたが、自然言語で動作するAIシステムでは、この境界が曖昧になるため、新たな脆弱性が生まれると考えられます。
Lockdown Modeの仕組みと対象ユーザー
Lockdown Modeは、著名な組織の経営幹部やセキュリティチームなど、高度なセキュリティを必要とする少数のユーザーを対象とした、オプションの設定です。OpenAIの説明では、ほとんどのユーザーには必要ないとされています。
この機能は、ChatGPTが外部システムとやり取りできる範囲を決定論的に制限することで、プロンプトインジェクション経由のデータ流出リスクを低減します。「決定論的(deterministic)」という表現は、条件に応じて動作が変わる可能性がある制限ではなく、特定の機能を完全に無効化する確実な制限を意味します。
具体的には、Lockdown Mode有効時のWebブラウジングは、キャッシュされたコンテンツのみに制限され、OpenAIの管理下にあるネットワーク外への実際のネットワークリクエストは発生しません。これは、ブラウジングを通じて機密データが攻撃者に流出することを防ぐ設計です。また、データ安全性の強力な決定論的保証を提供できない機能は、完全に無効化されます。
対象プランとしては、ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare、ChatGPT for Teachersが挙げられており、管理者はワークスペース設定で新しいロールを作成することで有効化できます。重要なワークフローがアプリに依存している場合を考慮し、管理者は、Lockdown Mode利用時にどのアプリ、およびアプリ内のどの特定アクションを利用可能にするかを細かく制御できます。
Elevated Riskラベルの役割
Elevated Riskラベルは、追加的なリスクを伴う可能性のある一部の機能に対して、一貫した警告表示を行う仕組みです。OpenAIは、アプリやWebとの接続によってAI製品がより便利になる一方で、一部のネットワーク関連機能は、業界のセキュリティ対策でまだ完全には対処できない新しいリスクをもたらすと説明しています。
この機能は、ChatGPT、ChatGPT Atlas、Codexの全体で一貫して表示されます。例えば、コーディングアシスタントであるCodexでは、開発者がCodexにネットワークアクセスを許可してドキュメント検索などのWeb上の操作を実行させる際、設定画面に「Elevated Risk」ラベルと、何が変わるか、どのようなリスクが発生する可能性があるか、いつそのアクセスが適切かについての明確な説明が表示されます。
OpenAIは、ユーザーが特に個人データを扱う際に、これらのリスクを受け入れるかどうか、どのように使用するかを決定できることが重要だと述べています。この透明性の高いアプローチは、ユーザーが十分な情報に基づいて判断できるようにするための設計と言えます。
既存のセキュリティ対策との関係
OpenAIによれば、今回導入される2つの機能は、既存の多層的な保護策に追加される形で実装されます。既存の保護策には、サンドボックス化、URL経由のデータ流出に対する保護、監視と執行、ロールベースのアクセス制御や監査ログといったエンタープライズ向け制御が含まれます。
サンドボックス化は、プログラムやプロセスを隔離された環境で実行し、システム全体への影響を制限する技術です。また、ChatGPT Businessプランは既にエンタープライズグレードのデータセキュリティを提供しており、Lockdown Modeはこれらの保護の上に構築されます。
さらに、Lockdown Modeとは別に、Compliance API Logs Platformがアプリの使用状況、共有データ、接続元に関する詳細な可視性を提供し、管理者が監視を維持できるようにしています。これらの機能を組み合わせることで、多層防御のアプローチが実現されていると考えられます。
今後の展開
OpenAIは、Lockdown Modeを数か月以内に一般ユーザーにも提供する計画を明らかにしています。また、セキュリティの強化に継続的に投資し、特に新たな、または増大するリスクに対する安全対策を強化していくとしています。
Elevated Riskラベルに関しては、該当機能のセキュリティ対策を強化し、一般利用において十分にリスクが軽減されたと判断した時点で、そのラベルを削除する方針です。また、ユーザーにリスクを適切に伝えるため、どの機能にこのラベルを付けるかは時間とともに更新していくとされています。
この動的なアプローチは、AI技術の進化とセキュリティ対策の成熟度に応じて、柔軟に対応していく姿勢を示していると思います。
まとめ
OpenAIが導入する「Lockdown Mode」と「Elevated Risk」ラベルは、AIシステムの高度化に伴う新たなセキュリティリスクに対応する取り組みです。特にエンタープライズ環境でChatGPTを利用する組織にとって、機密データの保護とリスク管理の選択肢が広がる重要なアップデートと言えます。今後、一般ユーザーへの展開とともに、セキュリティ対策の進化に注目したいところです。
