国家情報局、偽情報監視部署新設-背景に海外発のAI プロパガンダの流布|セキュリティとIT ニュース-セキュリティ対策Lab

投稿日時: 2026年03月06日更新日時: 2026年03月07日

政府が創設を目指す「国家情報局」に、SNS上の偽・誤情報の拡散を監視する専門部署を設ける案が浮上しています。

狙いは、偽・誤情報の拡散を通じて選挙や世論形成に干渉しようとする外国勢力の影響工作を早期に把握し、拡散を抑えることです。専門部署では、外国勢力による組織的関与が疑われる大量投稿を精査し、必要に応じてSNS事業者に削除やアカウント凍結を要請する運用が想定されています。一方で、政府主導の監視・規制が強まれば言論が萎縮する懸念も残り、制度設計が焦点になりそうです。

こうした「対外影響工作」への危機感は抽象論にとどまりません。近年は生成AIがコンテンツ制作コストを極端に下げ、外国発のプロパガンダや中傷キャンペーンを、複数プラットフォームへ同時展開しやすくしました。

1 質の低いコンテンツでも害をなす
2 OpenAI報告書が示した日本の首相を標的にした影響工作
3 ハッシュタグとミームで小さく始める手口
4 国営メディアによるナラティブ形成

質の低いコンテンツでも害をなす

たとえコンテンツの質が低くても、大量投稿でタイムラインや検索結果、関連ハッシュタグの表示を埋め尽くせば、一定数は「よく見る＝事実かもしれない」と感じやすくなります。

また繰り返し接触による真実味の錯覚や、周囲が話題にしていること自体を根拠にしてしまう同調・確証バイアスが働き、強く支持しない層でも疑念や嫌悪だけが残り影響を受ける人数が全体のごく一部でも、炎上の火種づくり、議題のすり替え、対立の先鋭化、関係者の萎縮（自己検閲）を引き起こせれば「作戦としては成功」になり得るため、AI製のコンテンツの偽情報拡散はコストパフォーマンスの高い戦術となります。

OpenAI報告書が示した日本の首相を標的にした影響工作

こうした偽情報配布ではAI製コンテンツが利用されています。代表例として注目されているのが、OpenAIが2026年2月に公表した脅威レポートです。

OpenAIは、中国の法執行機関に関係する人物と結びつくとされるChatGPTアカウントを停止し、当該ユーザーが「日本の首相を標的にした秘密裏の影響工作（covert influence operation）」を計画してモデルに支援を求めていたとしています。

さらに同レポートでは、標的として高市早苗氏が言及され（報告書内では高市氏を「日本初の女性首相」と表現している）、内モンゴルの人権状況を批判したことを契機に「貶める作戦」を設計しようとした、とされ計画要素としては、

高市氏に対する否定的コメントの投稿と増幅
外国人移民に関する立場への批判（外国人居住者を装う偽メールアカウントで、日本の政治家に苦情を送る案を含む）
生活費をテーマに、偽SNSアカウントと現地ネットユーザーの取り込みでオンライン圧力を作る
極右傾向だと आरोप（糾弾）する
米国の関税への怒りを煽り、対米関係で世論の注意を誘導する
内モンゴルの実情について肯定的コメントを拡散する

OpenAIは計画支援を拒否したとしつつ、その後「作戦の実施状況をまとめた報告文の推敲」を依頼する動きがあったとも記す。このため、作戦自体はChatGPTを使わずに進行した可能性が示唆されている。

※補足：ここでいう「内モンゴル」は中国の内モンゴル自治区を指し、新疆ウイグル自治区（ウイグル）とは別の地域。混同されがちだが、別問題。

ハッシュタグとミームで小さく始める手口

OpenAIは、計画の実施報告（ステータス報告）に「ハッシュタグを立ち上げた」との主張があったとし、オープンソース調査でX・Pixiv・Blogspotなどに少量の拡散痕跡を確認したと説明しています。

画像：Disrupting malicious uses of AI

ただし成果は限定的だった可能性が高いく視聴数や閲覧数が極端に小さい例が示され、影響力を十分に得られなかったという評価が示唆されています。

国営メディアによるナラティブ形成

中国はナラティブ形成の為に積極的に発信し、主張形成の動きをしています

中国の国営英語放送局「CGTN（中国グローバルテレビジョンネットワーク）」が制作した約11分間の番組『琉球の悲劇（THE UNDETERMINED STATUS OF RYUKYU）』に如実に表れています。

一見すると沖縄の歴史を振り返るドキュメンタリーの体裁をとっていますが、内容を詳細に分析すると、「沖縄県民は日本政府や自衛隊から迫害されている先住民である」という架空のストーリー（ナラティブ）を捏造し、国際社会に向けて「琉球独立」の正当性をアピールする極めて高度なプロパガンダであることが浮かび上がります。