Anthropic、AIの安全保障を強化:利用規約を更新し、中国などからの間接利用を制限

目次

はじめに

 本稿では、AIアシスタント「Claude」などを開発する米国のAI企業Anthropicが発表した、AIサービスの利用規約の更新について詳しく解説します。この更新は、AI技術が意図せず利用されるリスクに対応し、より安全なAI開発を目指すための重要な一歩と言えます。

 Anthropicの公式ブログに掲載された「Updating restrictions of sales to unsupported regions」をもとに、今回の規約変更の背景や具体的な内容、そして私たちにとってどのような意味を持つのかをお伝えします。

参考記事

要点

  • Anthropicは、AIサービスの利用規約を更新し、サポート対象外地域(中国など)からのアクセス制限を強化した。
  • 主な変更点は、サポート対象外地域の企業が50%超の株式を所有する子会社など、間接的な支配下にある企業による利用も禁止対象とした。
  • この措置は、AI技術が権威主義国家の軍事・諜報活動や、不公正な競争に利用されるリスクを防ぐことを目的としている。

詳細解説

これまでの課題:抜け穴となっていた子会社経由のアクセス

 Anthropicは以前から、法的、規制、セキュリティ上のリスクを理由に、利用規約で中国など一部の国・地域からの直接的なサービス利用を禁止していました。

 しかし、これらの国の企業が、米国などサービスの利用が許可されている国に子会社を設立し、その子会社を通じてサービスにアクセスするという、いわば「抜け穴」が存在していました。今回の規約更新は、この間接的な利用を制限するためのものです。

権威主義国家によるAI利用のリスクとは

 発表では、特に中国のような権威主義国家の支配下にある企業がもたらすリスクについて指摘されています。

 これらの企業は、自国の法律によって政府へのデータ提供や諜報活動への協力を強制される可能性があります。その結果、Anthropicの先進的なAI技術が、米国の安全保障を脅かす軍事目的や、権威主義的な体制を強化するために利用される懸念がありました。企業や個人の意向に関わらず、国家からの圧力を拒むことは困難であると記事は述べています。

AI技術の不正な移転と悪用の懸念

 もう一つの大きな懸念は、AIモデルの能力が不正に移転され、悪用されるリスクです。

 例えば、「蒸留(distillation)」と呼ばれる技術を使えば、Anthropicの高性能なモデルの知識を、より小さな別のモデルに模倣させることが可能です。なお蒸留とは、高性能で大規模なAIモデル(教師モデル)が学習した知識や判断能力を、より小型で計算コストの低いAIモデル(生徒モデル)に転移させる技術のことです。これにより、元のモデルに匹敵する性能を持つモデルを、より効率的に開発できる可能性があります。

 このような技術が悪用されると、サポート対象外の国々が自国のAI開発を不当に加速させ、米国やその同盟国の企業が築いてきた技術的優位性を損ない、世界市場での公正な競争を阻害する恐れがあります。

具体的な規約の変更点

 今回の更新で最も重要なポイントは、企業の所在地だけでなく、その資本関係にまで踏み込んで制限を適用する点です。

 具体的には、「サポート対象外の地域に本社を置く企業によって、直接的または間接的に50%以上所有されている事業体」が、明確に禁止対象として加えられました。これにより、例えば米国に子会社があっても、その親会社が中国にある場合はサービスを利用できなくなります。これは、実質的な支配権を持つ企業からのアクセスを遮断し、規約の抜け穴を塞ぐことを目的としています。

企業の自主的な取り組みと政策提言

 Anthropicは、一企業の規約変更にとどまらず、AIの安全性を確保するためにはより広範な政策が必要であるとも訴えています。

 具体的には、AIの軍事転用などを防ぐための「強力な輸出管理」、AI開発に必要な大規模インフラを整備するための「米国内でのエネルギープロジェクトの加速」、そしてAIモデルが持つ国家安全保障上のリスクを厳格に評価することなどを提唱しています。

まとめ

 本稿では、Anthropicによる利用規約の更新について、その背景と内容を解説しました。

 今回の措置は、子会社などを通じた間接的なアクセスという巧妙な抜け穴を塞ぎ、AI技術が権威主義国家によって悪用されるリスクを低減させるための、企業による自主的かつ重要な一歩です。

 AI技術の発展と普及が加速する中で、その利用が民主主義的な価値観や国際的な安全保障に沿ったものとなるよう、責任あるAI企業が断固とした行動を取ることの重要性を示しています。今後、他のAI開発企業がどのような対応を取るか、また各国の規制がどう変化していくか、引き続き注目していく必要があるでしょう。

この記事が気に入ったら
フォローしてね!

  • URLをコピーしました!
  • URLをコピーしました!
目次