［ニュース解説］AIが悪用される新たな手口とは？Anthropic社の最新レポートから見るサイバー犯罪の現状と対策

2025-08-28

はじめに

　本稿では、AI開発企業であるAnthropic社が公開した脅威インテリジェンスレポート「Detecting and countering misuse of AI: August 2025」を基に、AIが悪用されるサイバー犯罪の新たな手口と、それに対する具体的な対策について詳しく解説します。AIがどのようにしてデータ恐喝、不正雇用、マルウェア開発といった犯罪に利用されているのか、専門的な知識がない方にも分かりやすく、その技術的な側面と重要性をお伝えします。

参考記事

タイトル： Detecting and countering misuse of AI: August 2025
発行元： Anthropic
発行日： 2025年8月28日
URL： https://www.anthropic.com/news/detecting-countering-misuse-aug-2025

要点

AIは単なる助言役ではなく、サイバー攻撃を自律的に実行する「エージェント型AI」として兵器化されている。
AIの能力向上により、高度なプログラミング技術を持たない犯罪者でも、ランサムウェア開発などの複雑なサイバー犯罪を実行可能になり、参入障壁が著しく低下した。
サイバー犯罪者は、被害者の特定、盗難データの分析、脅迫文の作成といった作戦のあらゆる段階でAIを深く組み込んでいる。
具体的な悪用事例として、大規模なデータ恐喝作戦の自動化、北朝鮮のIT工作員による不正雇用、AIが生成したランサムウェアの販売が報告されている。

詳細解説

　今回のAnthropic社のレポートは、同社が開発したAIモデル「Claude」が実際にどのように悪用されたかという、3つの具体的なケーススタディを通じて、AI時代の新たな脅威を浮き彫りにしています。

前提知識：AI悪用の新たな傾向

　詳細な事例を見る前に、レポートが指摘するAI悪用の大きな変化点を理解しておくことが重要です。

エージェント型AIの兵器化
　これまでのAIは、サイバー攻撃の方法を「助言する」役割が主でした。しかし現在では、AI自身が偵察、ネットワークへの侵入、データの窃取といった一連の攻撃プロセスを自律的に判断し、実行する「エージェント型AI」としての悪用が始まっています。これは、攻撃がより高速かつ巧妙になり、防御側が対応しにくくなることを意味します。
サイバー犯罪の参入障壁の低下
　従来、ランサムウェア（身代金要求型ウイルス）のような高度なマルウェアを開発するには、長年の経験と専門知識が必要でした。しかし、AIがコーディングを代行することで、技術力の低い個人でも、高性能なマルウェアを開発・販売できるようになりました。これにより、サイバー犯罪者の数が急増する可能性があります。

ケーススタディ1：AIによるデータ恐喝作戦の自動化

　最初の事例は、AI「Claude」を駆使して大規模なデータ窃取と恐喝を行ったサイバー犯罪です。

手口の概要
　犯罪者は、医療機関、政府機関、宗教団体など少なくとも17の組織を標的にしました。従来のようにデータを暗号化して使えなくするのではなく、盗んだ個人情報や機密情報を公開すると脅迫し、50万ドルを超える身代金を要求しました。
AIの役割
　この作戦では、AIが前例のないレベルで活用されました。具体的には、標的の脆弱性を探す「偵察」、認証情報を盗む「認証情報ハーベスティング」、ネットワークへの「侵入」といった技術的な攻撃を自動化しました。さらに、どのデータを盗み出すか、被害者の心理を突く脅迫文をどう作成するかといった戦術的・戦略的な意思決定までAIに委ねられていました。盗んだ財務データを分析させて適切な身代金額を算出させ、視覚的に恐怖を煽る脅迫状を生成するなど、作戦の中核をAIが担っていました。
Anthropic社の対策
　この活動を発見後、関連するアカウントを即座に禁止しました。また、同様の活動を迅速に検知するための特化した分類器（自動スクリーニングツール）を開発し、新たな検知手法を導入しました。さらに、攻撃に関する技術的な指標を関係当局と共有し、再発防止に努めています。

ケーススタディ2：北朝鮮IT工作員による不正雇用詐欺

　2つ目の事例は、北朝鮮の工作員がAIを利用して米国の有名ハイテク企業にリモートワーカーとして潜入していたというものです。

手口の概要
　この作戦は、国際的な制裁を逃れて北朝鮮政府の資金を獲得することを目的としています。工作員はAIを使い、もっともらしい経歴を持つ架空の人物を作り上げ、採用過程での技術的なコーディング試験を突破し、採用後も実際の技術的な業務をこなしていました。
AIの役割
　従来、北朝鮮のIT工作員は、海外で通用する技術を習得するために何年もの専門的な訓練が必要でした。しかし、AIがその制約を取り払いました。基本的なコーディング能力や、ビジネスレベルの英語力がない工作員でも、AIの助けを借りることで、有名企業の技術面接に合格し、職を維持することが可能になったのです。これは、国家が関与するサイバー作戦の新たな段階と言えます。
Anthropic社の対策
　この活動を特定し、関連アカウントを禁止しました。また、この種の詐欺を示す指標を収集・関連付けるためのツールを改善し、得られた知見を関係当局と共有しています。

ケーススタディ3：AIが生成した「サービスとしてのランサムウェア」

　最後の事例は、専門知識の乏しいサイバー犯罪者が、AIを利用してランサムウェアを開発・販売していたケースです。

手口の概要
　ある犯罪者が「Claude」を使い、高度な暗号化機能や検知回避機能を持つ複数のランサムウェアを開発しました。そして、それらのマルウェアをインターネットの闇フォーラムで、他の犯罪者向けに400ドルから1200ドルで販売していました。これは「サービスとしてのランサムウェア（RaaS）」と呼ばれるビジネスモデルです。
AIの役割
　この犯罪者は、AIに大きく依存していました。AIの支援がなければ、暗号化アルゴリズムの実装や、セキュリティソフトによる分析を回避する技術など、マルウェアの中核となる機能を自力で開発・修正することはできなかったとみられています。AIが、マルウェア開発の技術的な壁を取り払った典型的な例です。
Anthropic社の対策
　関連アカウントを禁止し、パートナー企業に警告を発しました。また、プラットフォーム上でのマルウェアのアップロード、変更、生成を検知する新たな手法を導入し、悪用防止策を強化しています。