中国が生成AIで作成したコンテンツをSNSで利用し、米国で世論工作を実施

2024年4月4日に発表された米マイクロソフトのレポートで、中国が偽のSNSアカウントを利用し米国を分断する話題の調査や、SNSで生成AIを利用したコンテンツを利用して世論工作を行っている事を公表しました。特に世論工作にはStorm 1376（ストーム 1376）が関わっているとしています。

偽のSNSアカウントを利用し、米国で二分する世論を調査

画像引用元

中国は2022年の米国中間選挙で、影響工作の為に米国民になりすました偽のSNSアカウントを利用し影響工作をしていましたが、この活動が2024年にも引き続き継続されています。

特に米国で世論が分断される

・米国の国境政策

・移民

・人種間の緊張

・麻薬

など世論分断を招く話題は、中国が作成した偽のSNSアカウントが独占的に投稿しています。

さらにここ数か月は世論調査に関する質問を投げかける投稿が増加しており
2024年11月の米国大統領選を前にして、米国の有権者がどのような争点を考えどの立場を支持しているかを調査する為の取り組みをしているとのことです。

中国が米国内や仮想敵国へ影響力を与える為にAIを用いたコンテンツを増やしている

中国はStorm 1376（ストーム 1376）と呼ばれるグループが中心となって、米国内で不安を煽ったり仮想敵国の台湾 韓国 日本を批判する為に、AIを利用したフェイク画像や動画コンテンツを投稿しています。

マウイ島の山火事は気象兵器であるという投稿

2023年8月のマウイ島の山火事は軍用レベルの「気象兵器」を実験するために米国政府によって意図的に引き起こされたと主張

画像引用

ケンタッキー州の列車事故が意図的で何かを隠しているという陰謀論の投稿

2023年11月にケンタッキー州で起きた溶融硫黄を運ぶ列車の脱線事故が米国政府によって意図的に引き起こされたのか、また「意図的に何かを隠している」のかどうかを視聴者に検討するよう促している。脱線事故を9.11や真珠湾の隠蔽理論に喩えるメッセージもあった。

米国の水覇権を主張する投稿

画像引用

米国が「水の覇権」を維持するために他国の水道を意図的に汚染していると非難。これは、処理済み放射性廃水を太平洋に処分するという日本と日本政府の決定に主に焦点を当てた、広範な多言語キャンペーンの一環であった。ストーム1376は、処分は安全であるという国際原子力機関(IAEA)の科学的評価に疑問を投げかけようとしている。

生成AIを利用した台湾総統選への介入

画像引用

2024年１月に開催された台湾総統選で中国は、世論分断と誘導を行うために生成AIを利用したコンテンツが急増しました。国家が主体的にAIコンテンツを利用した選挙戦への活動は同社が観測した初めての事例です。

投票日には、フォックスコンのオーナーで選挙候補者のテリー・ゴウ氏（2023年11月に選挙戦から辞退した）が大統領選挙の別の候補者を支持する、AIが生成したと思われる偽音声を投稿されていたが、
ゴウ氏はそのような発言はしていなかった。 YouTube は、このコンテンツがより多くの視聴者に届く前にすぐに削除しました。

画像引用

また最終的に総統選挙で当選したウィリアム・ライ氏に反対するAI生成ミームの拡散も行われました。

Storm 1376（ストーム 1376）とは？

Storm 1376（ストーム 1376）は中国が米国と仮想敵国の世論工作を行っているグループでマイクロソフトの脅威調査センターが命名しました。

このグループは１７５件のウェブサイトで５８言語で活動しており、前述の世論工作キャンペーンを行い世論と同盟国の分断を煽っています。

最後に

今年は世界中、特にインド、韓国、米国で大規模な選挙が行われるため、中国は少なくとも自国の利益を図るためにAI生成コンテンツを作成し、拡大するだろうとマイクロソフト社は判断しています。
このようなコンテンツが選挙結果に影響を与える可能性は依然として低いものの、

中国によるミーム、ビデオ、音声の強化における実験の増加は今後も続く可能性が高く、将来的にはより効果的であることが判明する可能性があるだろうとしています。

Open AI「ロシアや中国がChatGPTやAIモデルを利用し世論工作」 さらに「福島批判」記事も

英 TikTok(ティックトック)で生成AIで作成された各政党指導者のフェイク動画が流行