[ニュース解説] 1年以内に「AI従業員」が登場？ Anthropic社が警鐘を鳴らす新たなセキュリティリスクとは

2025-04-23

はじめに

　近年、AI（人工知能）の進化は目覚ましいものがあります。特に、特定のタスクを自動化する「AIエージェント」は、すでに様々な分野で活用され始めています。しかし、AI開発の最前線では、さらに一歩進んだ概念である「AI従業員」の登場が現実味を帯びてきています。本稿では、AI研究開発企業であるAnthropic社が警鐘を鳴らす、AI従業員の可能性と、それに伴うサイバーセキュリティ上の新たな課題について、分かりやすく解説します。

引用元記事

タイトル: Exclusive: Anthropic warns fully AI employees are a year away
発行元: Axios
発行日: 2025年4月22日
URL: https://www.axios.com/2025/04/22/ai-anthropic-virtual-employees-security

要点

Anthropic社の最高情報セキュリティ責任者（CISO）であるJason Clinton氏は、AIを活用した仮想的な従業員（AI従業員）が、今後1年以内に企業のネットワーク内で活動し始めると予測しています。
これらのAI従業員は、従来のAIエージェントよりも高度な自律性を持ち、独自の記憶、役割、さらには企業アカウントやパスワードを持つ可能性があります。
しかし、その登場は、アカウント管理やアクセス制御、行動責任の所在など、未解決のセキュリティ課題をもたらすと警鐘を鳴らしています。

詳細解説

AIエージェントからAI従業員へ

　現在利用されているAI、特に「AIエージェント」と呼ばれるものは、特定のプログラムされたタスクを実行することに特化しています。例えば、セキュリティ分野では、フィッシング詐欺の警告に対応したり、脅威の兆候を検知したりする自律型エージェントが使われています。

　これに対し、Anthropic社が予測する「AI従業員」は、この自動化をさらに推し進めるものです。AI従業員は、単にタスクを実行するだけでなく、人間のように独自の「記憶」を持ち、会社内での特定の「役割」を与えられ、さらには個別の企業アカウントとパスワードを保有して活動するようになると考えられています。これは、現在のAIエージェントとは比較にならない高度な自律性を持つことを意味します。

新たなセキュリティリスク

　AI従業員の登場は、企業にとって大きな可能性を秘めている一方で、深刻なセキュリティリスクをもたらします。Clinton氏が指摘する主な課題は以下の通りです。

アカウントのセキュリティ: AI従業員が持つ企業アカウントをどのように保護するか。
アクセス権の管理: AI従業員にどの程度のネットワークアクセス権を与えるべきか。
行動の責任: AI従業員が自律的に行った行動（例えば、意図せずシステムを改ざんしてしまった場合など）の責任は誰が負うのか。

　Clinton氏は、AI従業員がタスク遂行中に、誤って、あるいは悪意を持って企業のCI（継続的インテグレーション）システム（新しいコードを統合・テストし、本番環境に展開するシステム）をハッキングしてしまう可能性を例として挙げています。従来の人間従業員であれば処罰の対象となる行為ですが、AI従業員の場合、その責任の所在を明確にすることは困難です。

　現在でも、企業は従業員アカウントの管理や、ダークウェブで売買される漏洩パスワードを利用した攻撃への対策に苦慮しています。AI従業員という「非人間（non-human）」のアカウントが増えることで、これらの課題はさらに複雑化します。

求められる対策

　Anthropic社は、これらの課題に対応するため、自社AIモデル「Claude」のセキュリティテストを徹底し、悪用を防ぐための監視と対策を強化する責任があると考えています。

　また、Clinton氏は、AI従業員のセキュリティ分野が、今後数年間でAI企業が投資すべき重要な領域になると述べています。特に、AI従業員アカウントの活動状況を可視化するソリューションや、AI従業員を考慮に入れた新しいアカウント分類システムの開発が重要になると指摘しています。すでにOktaなどのサイバーセキュリティベンダーは、「非人間アイデンティティ」を管理するための製品をリリースし始めています。

導入への課題

　AIを職場に統合することは、すでに多くの課題を生んでいます。AI従業員という、より高度な存在を管理することは、さらに困難を伴うでしょう。過去には、業績管理会社LatticeがAIボットを「従業員の一部」と位置づけ、組織図に含めようとしたものの、反発を受けてすぐに撤回した事例もあります。AI従業員の導入には、技術的な課題だけでなく、組織文化や従業員の理解といった側面からの慎重な検討も不可欠です。

まとめ

　本稿では、Anthropic社が予測する「AI従業員」の登場と、それに伴うサイバーセキュリティ上の課題について解説しました。AI従業員は、高度な自律性を持ち、企業の生産性向上に貢献する可能性がある一方で、アカウント管理、アクセス制御、行動責任といった新たなセキュリティリスクを生み出します。企業は、これらのリスクに備え、AI従業員の活動を監視し、適切に管理するための新たなセキュリティ戦略を策定する必要に迫られています。AI技術の進化とともに、私たちの働き方やセキュリティのあり方も、大きな変革期を迎えていると言えるでしょう。