OpenAIがイランや中国がAIを活用した選挙戦への介入やサイバー攻撃の事例を発表

セキュリティニュース

投稿日時: 更新日時:

OpenAIがイランや中国がAIを活用した選挙戦への介入やサイバー攻撃の事例を発表

OpenAIが2024年10月に発表されたレポートで、ChatGPT を悪用したフェイク情報の拡散やサイバー攻撃の事例について解説されています。

関連記事:Open AI「ロシアや中国がChatGPTやAIモデルを利用し世論工作」 さらに「福島批判」記事も

1. AIと選挙への干渉

選挙プロセスは、国家の民主主義を支える重要なイベントです。攻撃者は近年、AIを利用して選挙への干渉を試み、フェイク情報やプロパガンダを拡散しています。

AIによるコメント生成やソーシャルメディアのボットを使った影響力活動は、攻撃者にとって大きな武器となりますが、2024年の事例では成功例は限られているとしています。

 イランによる米国選挙干渉

  • 活動内容イランは、米国選挙への干渉を目的にAIを利用してフェイク情報キャンペーンを展開しました。米国内の不和を煽るため、AIで生成されたニュース記事やコメントが使われました。これにより、政治的な対立を激化させようとしました。
  • 結果:これらの活動は、米国の情報機関およびSNSプラットフォームによって早期に検出され、拡散が抑制されました。大きな社会的混乱や選挙結果への影響には至りませんでしたが、選挙妨害へのAI活用は今後も警戒が必要です。

2. サイバー作戦の最新事例

サイバー攻撃は、企業や国家に深刻な影響を与える脅威です。攻撃者はAIを活用し、従来の手法を高度化する一方、防御側もAIを用いてこれに対応しています。ここでは、2024年の代表的な事例を紹介します。

2.1 SweetSpecter(中国の攻撃者グループ)

  • 概要:SweetSpecterは、中国を拠点とする攻撃者グループで、OpenAIの従業員を標的とした標的型攻撃を行いました。攻撃者は、AIを使って脆弱性を特定し、異常検知システムを回避しようとしました。
  • マルウェアの目的
    SugarGh0st RATは、感染した端末をSweetSpecterの管理下に置き、以下のような操作を可能にします

    • 任意のコマンドの実行
    • スクリーンショットの取得
    • データの外部流出
  • 結果:防御側の迅速な対応により、攻撃は未遂に終わりましたが、企業のセキュリティ体制が引き続き強化されるべきことを示す重要な教訓となりました。

2.2 CyberAv3ngers(イラン革命防衛隊)

  • 概要:CyberAv3ngersは、イラン革命防衛隊と関連するグループで、産業制御システム(ICS)への攻撃を試みました。攻撃者は、AIを使ってPLC(プログラマブル・ロジック・コントローラ)の脆弱性を調査し、スクリプトの改善を行いました。
  • 目標:重要インフラの停止や混乱の引き起こし。
  • 結果:攻撃は部分的に成功しましたが、広範な影響には至らず、インフラ防御の重要性が再確認されました。

2.3 STORM-0817(イランのSNS攻撃)

  • 概要:STORM-0817は、AIを使ったSNS上の攻撃活動を行いました。彼らはAndroid向けのマルウェアを開発し、AIを使って特定のターゲットから情報を収集しました。
  • 活動:SNS上でパキスタンのサイバー専門家を標的に、データのスクレイピングと偽プロファイルの作成を実施。
  • 結果:一部の情報は取得されましたが、攻撃が大規模な影響を及ぼすことはありませんでした。

3. 影響工作活動とフェイク情報の脅威

AIの発展により、フェイク情報の生成と拡散が容易になっています。これにより、社会的な混乱を引き起こす影響力工作活動が増加しており、特にSNSプラットフォーム上での脅威が拡大しています。

3.1 Hoax: Russian “Troll” Operation

  • 概要:ロシアから発信されたフェイク情報キャンペーンでは、「ChatGPTがフェイク情報を大量生成している」という誤った主張が拡散されました。これにより、AI技術への信頼を損なおうとしました。
  • 活動:SNS上で手動で作成したメッセージをAI生成と偽り、混乱を引き起こそうとしました。
  • 結果:一部の注目を集めたものの、影響は限定的であり、プラットフォームの監視によって短期間で排除されました。

3.2 Stop News(ロシアの影響力活動)

  • 概要:「Stop News」という偽ニュースサイトが運営され、西アフリカと英国のユーザーを標的としました。AI生成のコンテンツを多言語で提供することで、社会的な不安を煽ろうとしました。
  • 結果:この活動は広範なエンゲージメントを得ることができず、早期に検出されて停止されました。