中国が監視と情報操作、世論誘導のためにAIを悪用

ChatGPTを提供するOpenAIとGoogle 脅威インテリジェンス グループは、中国や北朝鮮がAIを悪用しサイバー攻撃や世論誘導などに活用している事をレポートで発表しました。

以下記事では中国におけるAI悪用例を記載します。

監視ツールの開発と運用

GoogleおよびOpenAIの報告によると、中国政府に関連する脅威アクターがAIを利用して、海外の反体制活動家の監視や社会動向の分析を行っていることが確認されています。

過去、中国の日本への影響力拡大やプロパガンダ流布の為、ChatGPTを利用し日本でも「福島批判」記事を作成していた事が指摘されており、AIによる世論誘導や工作は中国による常套手段となっています。

関連記事：I-SOON 中国政府へRATを提供していた企業から内部リーク

Peer Review 作戦

これらのアカウントは、AIを利用して西側諸国の抗議活動を監視し、リアルタイムで中国当局に報告するツールを開発していました。

• ソーシャルメディア監視ツールの開発

  • X（旧Twitter）、Facebook、YouTube、Instagram、Telegram、Reddit などの投稿やコメントを分析
  • 西側諸国での人権デモや抗議活動に関するデータ収集
  • 収集した情報を中国政府関係者に報告

• コードのデバッグ

  • AIを活用して監視ツールのコードを編集・修正
  • Meta社のLlama3.1:8bをOllama経由で利用し、監視機能を強化

• 政治的な調査とプロパガンダの生成

  • 米国、オーストラリア、カンボジアの政治家や政府関係者に関する情報を検索
  • 中国政府が使用しているとされるAIツールで、世界中のSNSの投稿を解析し、中国関連の世論操作に活用しているとされる。
  • 反体制派（特に法輪功支持者）を攻撃するコメントを生成
  • 英語話者を装った偽の「トンプソン」なるキャラクターの発信を試行
  • AIを利用して、海外の中国批判的な発言や、香港・ウイグル問題に関する言及を監視し、政府に報告。

情報操作と世論誘導

Sponsored Discontent 作戦

中国に関連するChatGPTアカウントが、英語とスペイン語のプロパガンダコンテンツを作成し、ラテンアメリカのメディアで反米記事を拡散していました。

• ソーシャルメディアでの偽情報拡散

  • 反体制派の蔡霞（Cai Xia）氏を批判する英語のコメントを生成
  • インドや米国の一般人を装ったアカウントを利用し、X（旧Twitter）で投稿

• スペイン語の記事作成

  • AIを用いて中国語の記事を翻訳・拡張し、スペイン語のニュースサイトに投稿
  • ラテンアメリカのニュースサイト（ペルー、メキシコ、エクアドルなど）で米国批判記事を掲載
  • 「Jilin Yousen Culture Communication Co., Ltd（优森⽂化有限公司）」と関連のある個人を署名者とする記事を作成
  • 一部の投稿は「スポンサー記事」として有料掲載された可能性

AIで作成された記事タイトル

• 「米国がウクライナ戦争支援から利益を得る不都合な真実」
• 「米国のホームレス問題の悲劇」
• 「米国の対パレスチナ活動家制裁の矛盾」
• 「米国社会の経済的不平等」
• 「米国の薬物問題とホームレス危機」

Spamouflage 作戦

• OpenAIの報告では、中国政府系のアカウントがChatGPTを使用し、反体制派の学者や活動家（例：蔡霞氏）を批判するコメントを生成し、ソーシャルメディアで拡散していたことが確認された。これらのコメントは、米国やインドの偽装アカウントを使って投稿されていた。

サイバー攻撃の支援

Googleの報告によれば、Geminiを使用して標的となる政府機関や企業のネットワーク情報を収集し、マルウェア開発や検知回避技術の強化を行っていたことが確認されました。特に、Microsoft Exchangeのハッキング手法の研究やEDR（エンドポイント検知・対応）ツールの回避技術の開発が行われており、これらは国家主導のサイバー諜報活動の一環と考えられます。

また、以下のような活動でもAIの活用が確認されています。

標的への深化

中国のAPTアクターは、すでに侵害したネットワークでの権限昇格や検出回避を目的として、Geminiを利用

• Outlookプラグインの署名とサイレント配布
• Windows Event Logへのリモートアクセスコードの生成
• Active Directoryに自己署名証明書を追加
• 管理者のIPアドレスを特定するためのコマンド実行

ツールや技術の理解

中国のAPTアクターは、攻撃に必要なツールや技術の理解を深める目的として、以下の技術理解のためにGeminiを利用

• Nebula Graph（グラフデータベース）
• TLS 1.3の可視化問題
• マルウェアのPHPスクリプトの解析

まとめ

中国は、AIを監視・情報操作・サイバー攻撃に活用することで、国内外の影響力を拡大しようとしています。

今後、より高度なAI技術の開発と応用が進むにつれ、国家レベルの脅威としてますます重要な課題となり。これに対抗するためには、国際社会が一丸となってAIの悪用を監視し、適切な規制を導入することが急務です。