Microsoft、生成AIのガードレールを回避しディープフェイク ネットワークを構築していたグループを提訴

Microsoft(マイクロソフト)は、Azure OpenAI サービスを含む生成AIのガードレールを回避しディープフェイクネットワークを構築していたグループを提訴・公表しました。

Microsoftの訴えの概要

Microsoft(マイクロソフト)国際的なサイバー犯罪グループ「Storm-2139」を特定し、2024年12月に米国バージニア州東部地区連邦地裁に訴訟を提起しました。訴えによると、このグループはAIの安全対策を回避し、不正な画像やディープフェイクを作成するツールを開発・販売していたとされています。

このグループは、Microsoftのクラウドサービス「Azure OpenAI Service」をターゲットにし、顧客のAPIキーを不正に取得することで、認証を突破し、AIを悪用していました。

APIキーが流出すると、攻撃者は正規ユーザーになりすましてシステムを操作できます。

Microsoftの調査では、彼らがAPIキーを盗み、独自のツールを開発してAIの制限を回避し、不正コンテンツを生成していたことが判明しました。さらに、この技術をダークウェブで販売し、他の犯罪者にも提供していたとされています。

Storm-2139の主要メンバー

Microsoftの訴訟により、以下の4名が犯罪ネットワーク「Storm-2139」の中核的なメンバーとして特定されました。

• Arian Yadegarnia（別名 ‘Fiz’） – イラン
• Alan Krysiak（別名 ‘Drago’） – イギリス
• Ricky Yuen（別名 ‘cg-dot’） – 香港、中国
• Phát Phùng Tấn（別名 ‘Asakuri’） – ベトナム

犯罪グループ「Storm-2139」の実態

Storm-2139は、開発者（Creators）、提供者（Providers）、利用者（Users）という3つの役割に分かれて組織的に活動していました。

1. 開発者（Creators）

   • AIの安全対策を突破するツールを作成
   • MicrosoftのAIフィルターを回避し、不適切なコンテンツを生成可能に

2. 提供者（Providers）

   • ツールを違法マーケットで販売
   • ユーザー向けの詳細な操作マニュアルを作成

3. 利用者（Users）

   • AIを使って著名人のディープフェイクや不正画像を作成
   • マルウェアや詐欺など、他の犯罪活動にも活用

このように、開発・販売・使用の3つの層に分かれて、効率的にAIを悪用する仕組みが構築されていたのです。

Microsoftの対応

Microsoftは2024年12月、連邦地裁に訴えを起こし、裁判所から一時的な差し止め命令を取得。これにより、Storm-2139の主要インフラであるウェブサイトの一部を押収し、グループの活動を大きく制限しました。

その結果、グループ内で疑心暗鬼が生まれ、メンバー同士が責任を押し付け合う事態に発展。Microsoftの法務チームには匿名の内部告発メールが送られるなど、組織の崩壊が進んでいます。

また、Microsoftは米国内の2名のメンバーを特定（イリノイ州とフロリダ州在住）しており、さらに詳細な調査を進めています。