はじめに
OpenAIが2026年3月23日、動画生成AIサービス「Sora」の安全対策に関する詳細な方針を公開しました。本稿では、新モデル「Sora 2」および専用アプリに組み込まれた透かし技術、同意ベースの肖像管理、未成年者保護、有害コンテンツのフィルタリングなど、多層的な安全設計の内容を解説します。
参考記事
- タイトル: Creating with Sora safely
- 著者: OpenAI
- 発行元: OpenAI
- 発行日: 2026年3月23日
- URL: https://openai.com/index/creating-with-sora-safely/
要点
- Soraで生成されたすべての動画にはC2PAメタデータと可視透かしが埋め込まれており、内部の逆引き検索ツールと組み合わせることで出所の追跡が可能である
- 実在する人物の写真を使った動画生成（Image-to-video）には本人同意の確認が条件となり、子どもや若年層が写る画像にはさらに厳格な制限が適用される
- 「キャラクター」機能により、ユーザーは自身の外見・声の利用範囲を管理でき、許可の取り消しもいつでも行える
- 10代ユーザー向けには成熟コンテンツの制限、保護者向け管理機能、スクロール時間の上限などが標準で適用される
- 生成時と公開後の両段階でAIによるコンテンツ審査が行われ、人間によるレビューと組み合わせた多層防御が採用されている
詳細解説
動画の出所を示す透かし技術
OpenAIによれば、Sora 2で生成されたすべての動画には、目に見える透かし（ウォーターマーク）と目に見えない透かしの両方が埋め込まれます。目に見える透かしは動的に動くデザインで、クリエイターの名前が含まれます。目に見えない透かしとしては、C2PA（Coalition for Content Provenance and Authenticity） と呼ばれる業界標準の署名形式のメタデータが使用されています。
C2PAは、コンテンツの出所や編集履歴を記録するための国際的な技術標準で、主要なメディア企業やテクノロジー企業が参加する団体によって策定されました。これにより、動画がどのツールで生成・編集されたかを検証可能な形で記録できます。OpenAIはこれに加えて、動画や音声をSoraの出力として特定できる内部の逆引き検索ツールも整備しており、ChatGPTの画像生成やSora 1での実績を踏まえたシステムとしています。
実在する人物の写真を使った動画生成
Sora 2では、家族や友人の写真をアップロードして動画を作成できるImage-to-video機能が利用可能です。OpenAIは、この機能の利用にあたり、写真に写っている人物の同意を得ていること、およびメディアのアップロード権限を持っていることをユーザーに確認させる仕組みを設けています。
人物が含まれる画像からの動画生成には、「キャラクター」機能での基準よりもさらに厳格な安全ガイドラインが適用されます。特に子どもや若く見える人物が写っている画像については、生成できるコンテンツの範囲がさらに制限されています。また、こうした動画を共有する際には必ず透かしが付与されます。
肖像・音声の同意管理「キャラクター」機能
「キャラクター」機能（旧称：カメオ機能）は、自身の外見や声をSora上で利用する際のコントロール手段として設けられています。OpenAIによれば、キャラクターに紐づいた音声・映像の利用は本人の同意を前提とした設計となっており、誰がそのキャラクターを使えるかをユーザー自身が決定し、アクセス権限をいつでも取り消すことができます。
公人の描写については、キャラクター機能を通じて本人が許可した場合を除き、ブロックする措置が講じられています。また、自分のキャラクターが含まれる動画（他ユーザーが作成した下書きを含む）は常に本人が確認できる状態に置かれており、必要に応じて削除や報告が可能です。さらに、キャラクターを含む動画には追加の安全ガイドラインが適用され、外見の大幅な変更や恥ずかしい状況への描写の制限、アイデンティティの一貫性維持なども設定できます。
10代ユーザーへの保護措置
Soraでは、10代ユーザー向けに複数の保護措置が標準で有効になっています。成熟したコンテンツの出力が制限されるほか、フィードは全ユーザーに適切な内容になるよう設計されており、有害・不適切なコンテンツは10代アカウントでフィルタリングされます。
10代のプロフィールは成人ユーザーに対してレコメンドされず、成人側から10代ユーザーへのダイレクトメッセージの開始も制限されています。ChatGPTの保護者向けコントロール機能では、親がDMの送受信可否やSoraアプリのフィード設定を管理できます。また、デフォルトで長時間のスクロールに上限が設けられており、過度な利用を抑制する設計となっています。
有害コンテンツのフィルタリング
有害コンテンツへの対策として、OpenAIは生成段階と公開後の両段階で審査を行う多層防御を採用しています。生成時には、性的コンテンツ、テロ関連の宣伝、自傷行為の助長といった内容をブロックする仕組みが、プロンプトと出力の両方に対して、さらに複数の動画フレームと音声トランスクリプトを横断してチェックを行います。
Sora 2では、動画の高いリアリティと動きや音声の追加を考慮し、画像生成時よりも厳格なポリシーが適用されています。公開後のコンテンツについては、OpenAIのグローバル利用規約に基づく自動スキャンが行われ、不適切なコンテンツはフィルタリングされます。これらの自動システムは継続的に更新されており、影響の大きいハームに焦点を当てた人間によるレビューと組み合わせて運用されています。
音声に関する安全対策
Soraへの音声機能追加は、新たな安全上の課題も伴います。OpenAIは、生成された音声のトランスクリプトをポリシー違反の観点から自動スキャンするほか、存命のアーティストや既存の楽曲を模倣する音楽の生成をブロックする仕組みを設けています。また、Soraの出力が自身の作品を侵害していると考えるクリエイターからの削除申請にも対応しています。
音声のディープフェイクや無断模倣は、テキストや静止画よりも影響範囲が広くなる可能性があると考えられます。完全な保護は難しいとOpenAI自身も認めているものの、継続的な投資を続けるとしており、今後の対策の進展が注目されます。
ユーザーによるコントロールと報告手段
動画の共有タイミングや方法はユーザー自身が決定でき、公開済みのコンテンツはいつでも削除することができます。動画、プロフィール、ダイレクトメッセージ、コメント、キャラクターはすべて報告の対象となっており、ポリシー違反に対する対応手段も明示されています。アカウントのブロック機能を使用すると、相手からのプロフィール・投稿の閲覧、キャラクターの使用、ダイレクトメッセージを一括して遮断することができます。
まとめ
OpenAIが公開したSora 2の安全対策は、透かし技術、肖像・音声の同意管理、未成年者保護、コンテンツ審査、音声フィルタリングなど多岐にわたります。動画生成AIの普及に伴い安全設計の複雑さも増しており、各プラットフォームがどのような責任ある設計を採用するかを継続して注視することが重要と思います。
