AI-Papers
- 脅威者はAIを単体でなくSNSや偽サイト、複数のAIモデルと組み合わせるハイブリッド手口が主流となっている
- カンボジア発「Operation Date Bait」ではChatGPT APIとTelegramを組み合わせた自動化詐欺が月数百件規模に及ぶと推計された
- 中国由来の「サイバー特殊作戦」は数十のプラットフォームで数千の偽アカウントを活用し、高市首相を含む世界的標的への影響工作を展開した
2年間の調査で見えた共通傾向
OpenAIは2026年2月25日、AIモデルの悪用事例をまとめた最新脅威レポート「Disrupting malicious uses of our model」を公開しました。同社が脅威レポートの発行を開始してから2年が経過し、この間に蓄積されたデータから共通する傾向が見えてきています。
特徴的なのは、脅威者がAIを単体で使うのではなく、ウェブサイト、SNSアカウント、メッセージングアプリといった従来型のツールと組み合わせる点です。単一のAIモデルに頼るのではなく、DeepSeekやQwenなど中国製のローカルモデルを含む複数のモデルを用途に応じて使い分けるケースも確認されました。単一プラットフォームや単一モデルに限定した悪用は、むしろ例外的になっています。
このことは、AIモデルの規制だけでは限界があることを示しています。悪用の核心は人間が設計するオペレーション全体の構造にあり、AIはその一部に過ぎないとOpenAIは分析しました。業界横断での情報共有と連携が、対策の根幹として求められています。
カンボジア発のロマンス詐欺ネットワーク
今回のレポートではいくつものケーススタディが取り上げられており、そのうち2件がカンボジアを起点とする詐欺事例です。
「Operation Date Bait」と名付けられた事案では、SNS広告で高級デートサービス「Klub Romantis」を宣伝し、ゴルフやヨット関連のキーワードでインドネシア人男性を標的にしていました。誘導後の手口は「Ping（初接触）→ Zing（感情操作）→ Sting（金銭搾取）」という3段階で構成されます。人間のオペレーターによるChatGPTの手動操作と、APIによる自動化チャットボットを組み合わせており、OpenAIの調査では月数百件規模の被害があった可能性が示されました。
別の事案「Operation False Witness」は、詐欺被害者の損失回復を装った二次詐欺です。ChatGPTを使って少なくとも6つの架空法律事務所のコンテンツを作成し、実在する弁護士や米国FBIのウェブサイトを模倣していました。
「成功報酬15%」「口座開設デポジット」などを名目に暗号資産を送金させる手口で、特に高齢者など詐欺被害の経験者を狙っていたとされます。FBIおよび模倣された法律事務所は、公開警告を発出しました。
中国発「サイバー特殊作戦」の実態
レポートの中で最も詳細に分析されているのが、中国の法執行機関に関連するとされるアカウント群による組織的な影響工作「网络特战（サイバー特殊作戦）」です。
この作戦は、数百人以上の関与者、数十のプラットフォームにまたがる数千の偽アカウント、現地展開型のAIモデルの活用、数十に及ぶ作戦計画書（プレイブック）によって構成されていました。標的は中国反体制派にとどまらず、外国政府高官や世界中の中国共産党批判者にまで及んでいます。
日本に関わる事例としては、日本の首相を標的とした世論工作が確認されました。内モンゴルの人権問題に関する発言を発端として、移民政策への批判、生活費問題、アメリカとの関税問題など、6つのカテゴリーにわたるネガティブコメントが組織的に生成されています。ChatGPTはこれらの作成要求を拒否しており、OpenAIのポリシーが実際に機能した事例としても記録されました。
ロシア発の情報工作とアフリカ報道
ロシアを起点とするとみられる事案も複数確認されています。「Operation No Bell」では、「Dr Manuel Godsin」という架空の人物名義でアフリカの地政学に関する長文記事を生成し、南アフリカ、ガーナ、ケニア、アンゴラなどのニュースサイトへの掲載を試みていました。架空の著者の写真はロシアの法律系SNSから転用したものとみられ、オンライン上で53本の記事が確認されています。
「Operation Fish Food」では、ロシア発とされるアカウント群がTelegramの大手チャンネル「Rybar」（購読者数約140万人）と連携してコンテンツを生成していました。生成した7件のツイートで最多閲覧数は15万回超でしたが、最低は57回にとどまっています。
OpenAIはこの格差を「コンテンツのAI性よりも、投稿アカウントのフォロワー数が主要因」と分析しており、影響力の拡大にはコンテンツの品質よりもアカウントの規模が効いていることを示唆しました。
検知・防御への示唆
OpenAIは今回のレポートで、脅威インテリジェンスの業界横断的な共有の重要性を強調しています。単一プラットフォームでの監視では、複数のサービスをまたぐ攻撃の全容を把握できないためです。
AIの悪用検知において重要なのは、モデルへの入力内容だけではありません。アカウントの行動パターン、複数プラットフォームにまたがる連携の痕跡、そして既知の脅威グループとの重複も手がかりになります。OpenAIが以前のケースで示したように、不審なユーザー行動の検知と対応には、技術的な検出と人的判断の組み合わせが必要です。
一方で、今回の事例が示すもう一つの教訓は、AIの悪用が多くの場合、大きな効果を上げていない点です。「Operation Fish Food」の閲覧数格差や、別の事例でも成功の痕跡がなかったことは、早期検知と業界横断の対策が実際に悪用の拡散を抑えられることを示しています。OpenAIは引き続きこうした脅威レポートを公開し、社会全体が脅威を認識・回避できるよう情報共有を続けるとしています。
