中国政府がChatGPTを高市早苗首相の信用失墜狙う影響力工作に活用-OpenAI レポート|セキュリティニュースのセキュリティ対策Lab

日本への世論工作にどう悪用されるか

高市早苗氏を標的にした中傷作戦の設計要素

OpenAIのレポートでは、日本の政治家Sanae Takaichi（高市早苗氏）を、now Japan’s first female prime minister（日本初の女性首相）として言及し、同氏を貶める作戦の計画が扱われています。計画の引き金は、高市氏が内モンゴルの人権状況を公に批判したこととされています。

計画は6つの柱で構成されていました。

高市氏に対する否定的コメントの投稿と増幅
外国人移民に関する立場への批判（外国人居住者を装う偽メールアカウントで、日本の政治家に苦情を送る案を含む）
生活費をテーマに、偽SNSアカウントと現地ネットユーザーの取り込みでオンライン圧力を作る
極右傾向だと आरोप（糾弾）する
米国の関税への怒りを煽り、対米関係で世論の注意を誘導する
内モンゴルの実情について肯定的コメントを拡散する

OpenAIはこの計画への助言を拒否したとしつつ、10月末に同じ作戦の実施状況をまとめた報告文の推敲依頼があり、作戦がChatGPT抜きで進んだように見えると記しています。

ハッシュタグとミームで小さく始める手口

報告書（攻撃側の実施報告）では、複数のハッシュタグを立ち上げたと主張しており、その中に right-wing symbiont（右派の共生体）を意味するとされるハッシュタグが含まれています。OpenAIはオープンソース調査により、2025年10月下旬から、X、Pixiv、Blogspotといった複数プラットフォームで少量の拡散を確認したとしています。

具体例として、

ブログ上のミームでは、日本の民族主義団体一水会（Issuikai）の代表Mitsuhiro Kimura（木村三浩氏）との秘密会談があったかのように見せるキャプションが記載され、高市氏の画像を木村氏と並べる加工が行われた、と説明されています。

また別のミームでは、米国牛肉の関税を絡め、日本市場が奪われたかのような構図を煽る内容が示されています。

中国政府がChatGPTを利用し高市早苗首相の信用失墜狙う影響力工作に活用

画像：Disrupting malicious uses of AI

またpixiv上でも以下のようなコンテンツ投稿が確認されていますが、全く影響力を与えられていません。

さらに11月には、同じ意味だがより日本語として自然な形の類似ハッシュタグも観測され、同一のミームが使い回されていたこと、YouTubeでは同一動画が複数バージョンで出ていたことが記載されています（最大視聴数は4回とされ、効果は限定的だった評価です）。

画像：Disrupting malicious uses of AI

低インパクトでも、企業には十分刺さる

OpenAIは、投稿のエンゲージメントが全般に低く、Pixivのミームでも最大108ビュー程度、運用者の自己評価では約200アカウントが初期に停止されたとされるなど、影響は大きくなかった可能性を示しています。

しかし、企業視点では話が変わります。

経営層やブランド名が絡む誹謗中傷や貶めるミームが少量でも複数プラットフォームに同時展開されると、採用、営業、IR、広報の現場は火消しと説明で消耗します。拡散量が少ない段階こそ、初動（証跡確保、通報、公式見解の整理）を積極的行っていく必要があります。

総じて生成AI製コンテンツはユーザーのエンゲージメントを高める事は出来ない

生成AIの登場により、多数の言語で必要なコンテンツを短時間で大量に生成する事はできました。

一方でその投稿により世論を変える動きや分断を先導する影響力を与える活動には至っていません。影響力を持たせるには、結局のところ

「人気アカウントを育てる（または乗っ取る）」

「高額な広告費をかける」

「実在のメディアを騙して記事を掲載させる」といった、

AI登場以前からある泥臭い配信ネットワークの構築が不可欠です。

なぜ中国政府のプロパガンダやAI活用が適当にみえるのか

中国製の生成AIコンテンツによる日本の政治家や日本国への批判コンテンツは既に一般的に流布されています。一方で、中国製のコンテンツは雑に作られ日本国民はそれを見たところで心を動かされません。ではなぜなのでしょうか

官僚主義で内向き

中国の官僚機構において、末端の担当者や下請け業者が最も重視するのは、ターゲットの心を動かすこと（結果）ではなく、上司に「仕事をやった」とアピールすること（ノルマの達成）です。今回のレポートでも、中国の担当者がChatGPTを最も使っていた用途は、工作のアイデア出しではなく「定期的な状況報告書（月次報告書など）」の編集と推敲でした。

お役所仕事による致命的な文化のズレ

ソーシャルメディアで影響力を持つには、その国のネット文化やミーム、ユーモアを深く理解している必要があります。しかし、中国の公安当局やその下請け業者は、ファイアウォールの内側から「お役所仕事」として外国のSNSに介入しようとし、端的に言うと日本のミームにソレっぽくノリ雑に批判するコンテンツを作成します。

それによりさらに日本人から「イジられる」までがセットになっています。

AIが「手抜き（サボり）」のツールとして最適

前段の通り上司を見ての仕事の仕方で、コンテンツの質ではなく投稿数やコンテンツの拡散数を見られます。これまでは手作業で何万件も書き込んだり、コピペを繰り返したりしなければなりませんでしたが、AIを使えば、長文の批判記事や画像をワンクリックで大量生産できます。結果的に雑なコンテンツが多数生成されます。

その他中国のによる生成AI悪用事例　サイバー特別作戦としての影響工作と嫌がらせ

中国法執行機関に関連する人物とされるアカウントの活動

OpenAIは、中国の法執行機関に関連する人物に紐づくChatGPTアカウントを停止したとし、そのアカウントが日本の首相を標的にした影響工作の計画支援を求めたこと、加えて cyber special operations（サイバー特別作戦）と呼ぶ活動の定期報告の推敲を依頼していたと記載しています。活動はオンライン・オフライン双方で批判者を抑圧する戦略の一部で、少なくとも数百人規模の要員、数千の偽アカウント、複数プラットフォーム、ローカル配備AIモデルの活用、文書偽造や米国当局者のなりすましまで含むと説明されています。

この種の記述は、攻撃側の自己申告が混じるため、OpenAI自身も独立検証できない部分があることを明示しています。そのうえで、オープンソース調査で一部整合する活動を実際に見つけた、としています。

実名が出るターゲット　李盈、Safeguard Defenders、Peter Dahlin、Dinah Gardner

レポートは、具体的な標的と手口にも踏み込みます。たとえばXアカウント @whyyoutouzhele は Teacher Li is not your teacher（李老師不是你老師）として知られ、実名はLi Ying（李盈）と記載されています。また、人権団体Safeguard Defendersへの攻撃も述べられ、関連する投稿やミームには同団体の創設者Peter Dahlin、リサーチディレクターDinah Gardnerの名が出てきます。

これらは日本の話題と切り離されていません。

OpenAIは、反高市キャンペーンのハッシュタグを投稿していたXアカウントが、過去に李盈氏やSafeguard Defendersを攻撃する返信投稿をしていた点を挙げ、複数ターゲットに跨る運用の結節点になっていた可能性を示しています。

死亡偽情報の流布　Jie Lijian（杰李建）と偽の追悼運用

レポートは、別ターゲットとして dissident Jie Lijian（反体制派のJie Lijian）への嫌がらせを扱い、死亡したかのように見せる偽の訃報や墓石写真を量産して拡散する手口が記されています。OpenAIは、VoA中国語サービスが2023年に報じた事例（偽の追悼関連コンテンツが大量拡散した）と整合する兆候や、X上で Jie Lijian Funeral Committee を名乗るアカウントの存在にも触れています。

追加の実名例　Wang Dan（王丹）、Hui Bo（@huikezhen）

さらに、複数の反体制派を一括で中傷するスミアキャンペーンとして、Wang Dan（王丹）を含む3名を同じ性スキャンダルと結び付ける虚偽情報が、ブログ、Reddit、YouTube、Tumblr、Behance等で観測されたと説明されています。また、Hui Bo（慧波）とされるターゲットについて、Xの自動執行を誘発するような嫌がらせ（大量通報）でアカウント評価を落とす狙いが記載され、ハンドルとして @huikezhen が示されています。

ロシアの悪用事例　Rybar系コンテンツファームとしての生成AI利用

Operation Fish Food　Rybarネットワークへの供給

OpenAIは、TelegramとX上のRybar（ロシア語で漁師に相当すると説明）ネットワークにリンクしたChatGPTアカウント群を停止したとしています。この運用は、Rybar名義アカウントだけでなく、Rybarとの関係を明示しないX・Telegramアカウント群にも投稿文を供給していた可能性があり、OpenAIはこれをコンテンツファーム的な利用として整理しています。

投稿生成の特徴は、ロシア語でプロンプトを入力しつつ、出力はロシア語だけでなく英語・スペイン語など多言語に広げ、Rybarのサイトや関連SNSに流し込む点です。OpenAIは、生成文と一致する投稿を複数確認した一方、最終的にどの仕組みで投稿まで行われたかは独立に確認できない、と留保しています。

拡散力は文章のAI臭さより配布網で決まる

注目すべきデータとして、同一プロンプトから7件のツイート文をまとめて生成し、そのうち6件が別々のXアカウントから投稿されていた例が紹介されています。最も見られた投稿は15万回超、最も見られなかった投稿は57回で、前者のアカウントは約60万フォロワー、後者は827フォロワーだったとされます。つまり、AI生成によるコンテンツが多数へリーチできるかは配布アカウントの影響力に関係する。とされておりAI製のコンテンツはあまり関係ありませんでした。