はじめに
Anthropicが2025年12月20日、カリフォルニア州で2026年1月1日に施行される「Transparency in Frontier AI Act(SB 53)」に対応したコンプライアンスフレームワークを公開しました。本稿では、この発表内容をもとに、全米初となるフロンティアAI規制の枠組みと、Anthropicが提示する安全性管理の具体的アプローチについて解説します。
参考記事
- タイトル: Sharing our compliance framework for California’s Transparency in Frontier AI Act
- 発行元: Anthropic
- 発行日: 2025年12月20日
- URL: https://www.anthropic.com/news/compliance-framework-SB53
要点
- カリフォルニア州のSB 53は2026年1月1日に施行される全米初のフロンティアAI安全性・透明性要件である
- AnthropicはFrontier Compliance Framework(FCF)を公開し、カタストロフィックリスクの評価・管理方法を明示した
- FCFはサイバー攻撃、化学・生物・放射線・核兵器関連の脅威、AI暴走やコントロール喪失のリスクをカバーする
- 同社は連邦レベルでの一貫した透明性基準の制定を提唱している
- 規制適用は大手フロンティアAI開発者に限定され、小規模企業への負担を回避する設計となっている
詳細解説
SB 53の施行とその意義
Anthropicによれば、2026年1月1日に施行されるカリフォルニア州のTransparency in Frontier AI Act(SB 53)は、カタストロフィックリスクに関する安全性と透明性の要件を定めた全米初の法律です。カタストロフィックリスクとは、AI技術が引き起こし得る壊滅的な被害を指し、具体的にはサイバー攻撃、化学・生物兵器の開発支援、放射線や核兵器関連の脅威などが含まれます。
同法は、強力な安全慣行、インシデント報告、内部告発者保護を義務付ける一方で、開発者が安全対策を実装する方法については柔軟性を保持し、小規模企業には不必要な規制負担を課さない設計となっています。Anthropicは、連邦レベルの枠組みを長年提唱してきましたが、フロンティアAI開発者がリスク評価と管理方法について透明性を持つべきだという考えから、SB 53を支持してきました。
Frontier Compliance Frameworkの内容
AnthropicのFrontier Compliance Framework(FCF)は、同社がカタストロフィックリスクをどのように評価し管理するかを説明する文書です。具体的には、サイバー攻撃、化学・生物・放射線・核兵器関連の脅威、AIの暴走(sabotage)やコントロール喪失のリスクを対象としています。
フレームワークには、これらのリスクカテゴリーに対してモデル能力を評価する階層型システムと、緩和策へのアプローチが記載されています。階層型評価とは、モデルの能力レベルに応じてリスクを段階的に判定する仕組みで、より高度な能力を持つモデルほど厳格な安全対策が求められます。また、モデルウェイト(学習済みパラメータ)の保護方法や、安全インシデント発生時の対応手順も含まれています。モデルウェイトの保護は、悪意ある第三者によるモデルの不正利用を防ぐために重要な要素と考えられます。
Responsible Scaling PolicyとFCFの関係
FCFの内容の多くは、Anthropicが長年実践してきた手法の進化版であるとされています。同社は2023年以来、Responsible Scaling Policy(RSP)を通じて、先進的なAIシステムによる極端なリスクを管理するアプローチを示してきました。RSPは、AI開発と展開に関する意思決定の指針となってきた自主的な安全方針です。
また、新しいモデルをリリースする際には、能力、安全性評価、リスク評価を記述した詳細なシステムカードを公開してきました。システムカードは、モデルの技術的特性や安全性テストの結果を透明化する文書で、他の研究機関も同様の手法を自主的に採用しています。1月1日に施行される新法の下では、こうした透明性の実践が、最も強力なAIシステムを構築する企業にとって義務となります。
今後、FCFはSB 53やその他の規制要件に対するコンプライアンスフレームワークとして機能し、RSPは同社が考えるベストプラクティスを反映した自主的な安全方針として継続されます。これにより、現行の規制要件を超える、あるいは異なるアプローチを取る場合でも、AI環境の進化に応じた柔軟な対応が可能になると思います。
連邦レベルの透明性基準への提案
Anthropicは、SB 53の施行を重要な一歩としながらも、連邦レベルでのAI透明性フレームワークの必要性を強調しています。同社によれば、責任ある研究機関がすでに自主的に実践している達成可能な透明性慣行を正式化することで、モデルがより高度化したり競争が激化したりしても、こうした取り組みが静かに放棄されることを防げます。全国一貫性を確保するには、連邦レベルでの基準制定が必要だという立場です。
同社は今年初めに連邦法制化のためのフレームワークを提案しており、その核心は、特定の技術的アプローチを固定化せず、安全慣行への公的な可視性を重視する点にあります。具体的な提案内容は以下の通りです。
第一に、対象となる開発者は、化学・生物・放射線・核兵器による危害や、モデルの自律性のミスアライメントによる危害を含む深刻なリスクをどのように評価し緩和するかを示す公開フレームワークの公表が求められます。
第二に、モデル展開時にはシステムカードを公開し、テスト手順、評価結果、緩和策をまとめた文書を開示すること、モデルに大幅な変更があった場合は更新することが必要です。
第三に、内部告発者保護として、研究機関がフレームワークへの準拠について虚偽の報告をしたり、違反への懸念を提起した従業員を罰したりすることを明確に法律違反とすべきだとしています。内部告発者保護は、組織内部からの安全性に関する懸念が適切に表明される環境を作るために重要と考えられます。
第四に、柔軟な透明性基準として、AIの進化する性質に対応しながらセキュリティと公共安全を向上させるため、最低限の基準を設けつつ、コンセンサスとなるベストプラクティスが出現するにつれて適応できる軽量な要件であるべきだとしています。
第五に、適用範囲を最大規模のモデル開発者に限定することで、スタートアップエコシステムや小規模開発者に負担をかけず、カタストロフィックな危害を引き起こすリスクが低いモデルを除外する設計を提唱しています。この制限により、イノベーションを阻害せずに実効性のある規制が可能になると思います。
今後の展望
Anthropicは、AIシステムがより強力になるにつれ、開発方法や安全対策について公衆が可視性を持つことは当然の権利であるとしています。同社は、安全性を確保しながらアメリカのAIリーダーシップを維持する全国的な透明性フレームワークの策定に向けて、議会および政権と協力していく意向を表明しています。
まとめ
Anthropicは、カリフォルニア州のSB 53施行に先立ち、Frontier Compliance Frameworkを公開し、カタストロフィックリスクへの対応を明示しました。同社は、この州レベルの取り組みを評価しつつ、全国一貫性のある連邦基準の必要性を訴えています。AI技術の進化に伴い、透明性と安全性の確保がどのように制度化されていくか、今後の動向が注目されます。
