はじめに
OpenAIが2026年2月25日、AIモデルの悪用事例をまとめた最新の脅威レポートを公開しました。本稿では、ロマンス詐欺から中国当局によるとされる組織的な影響工作まで、7つのケーススタディをもとに、AIが実際にどのような形で悪用されているかを解説します。
参考記事
- タイトル: Disrupting malicious uses of AI
- 著者: OpenAI
- 発行元: OpenAI
- 発行日: 2026年2月25日
- URL: https://openai.com/index/disrupting-malicious-ai-uses/
- タイトル: Disrupting malicious uses of our models: An update, February 2026（PDFレポート全文）
- 発行元: OpenAI
- 発行日: 2026年2月25日
- URL: https://cdn.openai.com/pdf/df438d70-e3fe-4a6c-a403-ff632def8f79/disrupting-malicious-uses-of-ai.pdf
要点
- OpenAIは2026年2月、AIの悪用事例に関する最新脅威レポートを公開し、詐欺・情報工作・標的型ハラスメントなど7つのケーススタディを報告した
- 悪用者はAIを単独で使うのではなく、SNSアカウントやウェブサイトなどの従来型ツールと組み合わせる傾向があり、複数のAIモデルを使い分けるケースも確認されている
- カンボジアを起点とするとみられるロマンス詐欺ネットワークは、ChatGPTとAPI自動化を組み合わせ、インドネシア人男性を標的に月数百件規模の被害をもたらしていた可能性がある
- 中国の法執行機関に関連するとされるユーザーが、日本の首相・高市早苗氏を標的とした世論工作をChatGPTで計画しようとしたが、モデルはこれを拒否した
- ロシア発とみられる「Rybar」ネットワーク関連アカウントは、アフリカの地政学を題材に複数言語でSNSコメントを大量生成し、一部投稿は15万回超の閲覧数を記録した
詳細解説
AIは「道具の一つ」として組み込まれている
OpenAIが2年間にわたって脅威レポートを発行してきた中で得た重要な知見として、悪用者がAIを単独で使うのではなく、ウェブサイト・SNSアカウント・メッセージングアプリなど従来型の手法と組み合わせているという実態が挙げられています。また、中国を起点とするとみられる影響工作の事例では、単一のAIモデルに依存せず、DeepSeekやQwenなど中国製のローカル展開モデルを含む複数のモデルを用途に応じて使い分けていたことも確認されています。
こうした傾向は、「AI規制すれば解決する」という単純な議論に一石を投じると思います。悪用の核心は、人間が設計するオペレーション全体の構造にあり、AIはその一部に過ぎないと考えられます。
詐欺事例①：ロマンス詐欺「Operation Date Bait」
OpenAIはカンボジアを起点とするとみられるChatGPTアカウント群を停止しました。このネットワークは、「Klub Romantis」という架空の高級デート・エスコートサービスをSNS広告で宣伝し、「ゴルフ」「ヨット」「高級料理」などのキーワードでインドネシア人男性を標的としていました。
手口は「Ping（初接触）→Zing（感情操作）→Sting（金銭搾取）」という3段階の構造をとっています。広告リンクからTelegramに誘導した後、人間オペレーターによるChatGPT手動操作と、APIによる自動化チャットボットを組み合わせ、「LoveCode」「SexAction」と称する架空の出会いプラットフォームへと誘導。「ミッション」と称して段階的に送金を求め、最終的に「補償金」「確認デポジット」名目で大金を騙し取った後、ブロックして案件を終了させていました。OpenAIによれば、スキャナー自身の入力内容から月数百件規模の被害があった可能性が示されていますが、独立した確認はできていないとされています。
詐欺事例②：偽法律事務所「Operation False Witness」
同じくカンボジアを起点とするとみられる別のネットワークは、詐欺被害者の「回収支援」を装った二次詐欺を行っていました。ChatGPTを使って少なくとも6つの架空法律事務所のコンテンツを作成し、実在する弁護士や米国FBI・IC3（インターネット犯罪苦情センター）を模倣したウェブサイトも構築していました。被害者に「成功報酬15%」「口座開設デポジット」「コンサルテーション料」などを要求し、暗号資産で送金させる手口です。FBIおよび模倣された法律事務所が公開警告を発出しており、特に高齢者など詐欺被害の経験がある方を狙っていたとされています。
標的型工作：「Operation Silver Lining Playbook」
中国を起点とするとみられる少数のChatGPTアカウントが、米国在住の官僚・政策アナリストに向けたソーシャルエンジニアリングメールの下書きに、ChatGPTを使っていたことが判明しました。「Nimbus Hub Consulting」という架空のコンサルティング会社を騙り、「緊急性を演出した件名」「ターゲットの経歴を褒める個人化」「高額報酬の提示」「WhatsApp・Zoomへのオフラインへの誘導」という構成のメールを生成していました。さらに、フェイス・スワッピングソフトのインストール方法を問い合わせたアカウントも確認されています。OpenAIは、多くの民主主義国政府が外国諜報機関によるコンサルティング会社偽装のリクルート工作を警告していることを注記しています。
情報工作①：「Operation Trolling Stone」（アルゼンチン）
パキスタン・アルメニア・ウルグアイなど複数の地域に分散したChatGPTアカウントが、アルゼンチンで逮捕されたロシア人「カルトリーダー」とされるコンスタンティン・ルドネフ氏の支持コンテンツを協調して生成していました。Facebookの偽ニュースアカウントでアルゼンチンのニュース記事を投稿しながら、同時にローリング・ストーン・アルゼンチン版の音楽投稿に対してルドネフ関連のコメントを書き込むなど、一見無関係な場所にも工作活動を拡大していました。エンゲージメントはFacebookページ数百フォロワーと低水準でしたが、一部記事はアルゼンチンの地域ニュースサイトに掲載されるなど、メディアへの浸透（IO Impact Breakout Scaleでカテゴリー4相当）も見られました。
情報工作②：「Operation No Bell」（アフリカ）
ロシアを起点とするとみられるアカウントが、「Dr Manuel Godsin」という架空の人物名義でアフリカの地政学に関する長文記事を生成し、南アフリカ・ガーナ・ケニア・アンゴラなどのニュースサイトに掲載させていました。OpenAIによれば、「Dr Godsin」の記事はオンライン上で53本確認されたものの、ノルウェーのベルゲン大学の研究者データベースには該当者が存在せず、写真はロシアの法律SNSからのものと思われます。記事は典型的なロシア親派の論調で、ウクライナや米英を批判する内容が中心でした。
情報工作③：「Operation Fish Food」（Rybarネットワーク）
ロシアを起点とするとみられるChatGPTアカウント群が、テレグラムの大手チャンネル「Rybar」（購読者数約140万人）と連携してコンテンツを生成していました。特筆すべきは、ひとつのプロンプトから生成した7件のツイートのうち、最も多く閲覧されたものが15万回超だった一方、最低は57回にとどまったことです。OpenAIはこの差を「コンテンツのAI性ではなく、投稿アカウントのフォロワー数が主要因」と分析しており、影響力の拡大にはコンテンツ品質よりもアカウントの規模が重要であることを示唆しています。また同ネットワークは、アフリカでの選挙介入キャンペーン提案を作成するためにもChatGPTを活用していたことが確認されており、最大年60万ドル規模の予算が想定されていました。
まとめ
今回のOpenAIの脅威レポートは、AIの悪用が詐欺・情報工作・標的型ハラスメントにわたる広範な問題であることを改めて示しています。特に、複数のAIモデルや従来型ツールを組み合わせるハイブリッドな手口は、単一プラットフォームの対策だけでは限界があることを示唆しており、業界横断での情報共有の重要性がうかがえます。
