はじめに
OpenAIが2026年3月24日、10代ユーザーを保護するためのAI安全ポリシーセットを公開しました。オープンウェイト安全モデル「gpt-oss-safeguard」と連携して使えるプロンプト形式で提供されており、開発者がティーン向けの安全機能を自社システムに組み込む際の実装負担を軽減することを目的としています。
参考記事
- タイトル: Helping developers build safer AI experiences for teens
- 著者: OpenAI
- 発行元: OpenAI
- 発行日: 2026年3月24日
- URL: https://openai.com/index/teen-safety-policies-gpt-oss-safeguard/
要点
- OpenAIは、10代向け安全ポリシーをプロンプト形式でGitHubにオープンソース公開した
- ポリシーはオープンウェイト安全モデル「gpt-oss-safeguard」と組み合わせて使用可能で、グラフィックな暴力・性的コンテンツ、有害な身体観、危険な行為、ロールプレイ、年齢制限サービスの6カテゴリをカバーする
- Common Sense MediaとeverYone.aiの専門機関と協力して開発された
- ROOST Model Communityを通じてオープンソースで公開されており、翻訳・拡張・適用が可能である
- OpenAIはこれをティーン安全の「出発点」と位置づけており、開発者が各自のユースケースに応じて拡張・適応することを推奨している
詳細解説
ティーン向け安全ポリシー公開の背景
OpenAIはこれまで、10代ユーザーの保護に向けた取り組みを段階的に進めてきました。モデルの行動指針を定める「Model Spec」に18歳未満（U18）向けの原則を追加したほか、ChatGPTにおいて保護者向けコントロール機能や年齢推定機能を導入し、業界全体への提言として「Teen Safety Blueprint」も発表しています。
今回の発表はその延長線上にあります。開発者がオープンウェイトモデルを使って安全なティーン向けアプリケーションを構築する際、安全要件を実際のシステムで使えるルールへと落とし込む作業が大きな障壁になっているという課題認識から、今回のポリシーセットが開発されました。
プロンプト形式のポリシーという仕組み
OpenAIが公開したのは、安全分類モデル「gpt-oss-safeguard」や推論モデルに直接渡せる形式で記述されたポリシーセットです。gpt-oss-safeguardはHugging Faceで公開されているオープンウェイトの安全モデルで、有害コンテンツを検出・分類する用途に設計されています。
従来、開発者が安全システムを構築する際には、「どのコンテンツが有害か」を自ら定義する必要がありました。しかし、ティーンに特有のリスクを正確に定義し、AIシステムに一貫して適用できるルールへと変換する作業は、安全の専門知識とAI実装の両面の知識を要するため、経験豊富なチームでも難しいとされてきました。OpenAIによれば、こうした課題が保護の抜け穴や一貫性のない適用、過度に広いフィルタリングを生む原因になってきたとのことです。プロンプト形式にすることで、開発者は既存のワークフローへの統合や用途ごとの調整、継続的な改善が行いやすくなると考えられます。
カバーされる6つのポリシーカテゴリ
今回の初期リリースには、以下の6つのカテゴリに関するポリシーが含まれています。
- グラフィックな暴力的コンテンツ
- グラフィックな性的コンテンツ
- 有害な身体観・行動（摂食障害や過度なダイエットを誘発するような内容など）
- 危険な行為・チャレンジ
- ロマンティックまたは暴力的なロールプレイ
- 年齢制限のある商品・サービス
これらのポリシーは、リアルタイムのコンテンツフィルタリングだけでなく、ユーザー生成コンテンツのオフライン分析にも活用できます。ティーン特有の発達段階上の違いに関する既存研究を参考に設計されている点も特徴です。
外部専門機関との協働
ポリシーの開発にはCommon Sense MediaとeverYone.aiが協力しています。Common Sense MediaのAI & Digital Assessments責任者であるRobbie Torney氏は、「開発者が参照できる明確な運用ポリシーが存在しなかったことが、ティーン向けAI安全における最大のギャップの一つだった」と述べており、今回のオープンソース公開によって業界全体の安全水準の底上げが進むことへの期待を示しています。
また、everyone.aiのChief ScientistであるDr. Mathilde Cerioli氏は、コンテンツポリシーの整備が「モデルの行動がティーン関連リスクに与える影響をより広く検討するための入口になる」と評価しており、everyone.aiとしてもAIへの過度な依存（overreliance）や特定の関係への過剰な関与（exclusivity）といった行動リスクに焦点を当てた初期ポリシーを独自に作成したと述べています。
出発点としての位置づけとオープンソース展開
OpenAIは今回のポリシーを「出発点であり、包括的・最終的な定義や保証ではない」と明示しています。アプリケーションごとにリスクや対象ユーザー、文脈が異なるため、開発者が自社の状況に応じてポリシーを適応・拡張し、プロダクト設計・ユーザーコントロール・モニタリングなど複数の安全策を組み合わせる**多層防御（defense in depth）**のアプローチが重要と考えられます。
ポリシーはROOST Model Communityを通じてオープンソースで公開されており、他言語への翻訳や追加リスクカテゴリへの拡張、フィードバックの提供も可能です。gpt-oss-safeguardはHugging Faceのコレクションページからダウンロードして利用を開始できます。
まとめ
OpenAIが公開したティーン向け安全ポリシーは、開発者が長年直面してきた「安全要件を実装可能なルールに落とし込む」という課題に対して、具体的なアプローチを提供するものです。外部専門機関との協働によって設計され、オープンソースとして広く公開された今回の取り組みが、業界全体のティーン安全基盤の共有につながるか、今後の活用状況が注目されます。
