2024/06/21

英 TikTok(ティックトック)で生成AIで作成された各政党指導者のフェイク動画が流行

イギリスのBBCの調査によると、2024年夏のイギリス総選挙に合わせて若年層を対象とした、
各政党の偽のAIミームや生成AIを用いたフェイク動画がTikTokで流行していることを発表しました。

ニュースソースとしてのTikTok

TikTokはイギリスの前回の選挙以来急成長を遂げており、メディア規制当局「オブコム」によると、コムは2023年に2年連続で英国で最も急成長している「ニュースソース」となり、成人の10％が利用していて、10代の若者の10人に1人は、TikTokが最も重要なニュースソースだと答えている。

数十万回も再生された動画は、保守等のリシ・スナク首相が早期総選挙を呼びかけたことについての根拠のない噂や、BBCの元人気司会氏者で、死後に少年・少女への性的虐待が発覚したジミー・サヴィルへの起訴に失敗した責任はイギリス労働党スターマー党首にあるいう根拠のない動画などが流布されていました。　以下画像

引用画像:BBC

また別の偽AI生成製のフェイク動画では、リシ・スナク首相が「どうか私たちを追い出さないでください、本当に落ち込んでしまいます！」と言い、公金の使い方について根拠のない主張をする様子が描かれています。※以下画像

引用画像:BBC

別の生成AIで作られたと思われる、フェイク動画では

イギリスの若者がウクライナの先頭地域に派遣される事が示唆されていました。これらのビデオの一部はキャプションで風刺やパロディと説明されていますが、コメントを見ると一部のユーザーはどの主張が事実なのか混乱しているようです。

BBCが追跡調査を行いあるフェイク動画制作者に突き当たりました。

制作者の1人はイギリス南部在住の16歳の少女で、国家奉仕活動に関するスナク首相の最初のTikTok動画を風刺的に編集した人物で、彼女は「自分のコンテンツがこれほど早く人気になったことに驚いた」と語っています。

動画を作成した理由として

「選挙のために特にこのアカウントを作ったわけではなく、当初TikTokを作ったのも単なる冗談で、40万回以上も再生されるとは思っていませんでした」と彼女は語り、どの政党にも所属しておらず、TikTokを制作するために金銭も受け取っていないと付け加えた。

「私の意見では、ソーシャルメディアは今や若者が声を上げる唯一のプラットフォームです。」

彼女は、風刺的な内容が「物議を醸す」可能性があることは承知しており、自分の動画が「人々を誤解させる可能性がある」ことも理解しているが、人々がそれがちょっとした楽しみのつもりだったとわかってくれることを望んでいると述べた。

引用：BBC

2024年4月24日、「TikTok」について、事業売却か利用禁止のいずれかを迫る法案が成立しましたが、

EU各国の政府は、利用者データや機密情報が中国政府に渡ると懸念してTikTokの利用規制に乗り出しており、英国も足並みをそろえいます。

BBCの報道では、国の関与などの記載はありませんでしたが、2024年1月の台湾総統戦では生成AIを用いたフェイク動画やフェイク画像がSNSで蔓延しました。

実際、MicrosoftやChatGPTを提供しているOpenAIは中国やロシアが生成AIを用いたコンテンツをSNSへ投稿し、自国に有利な世論形成を計っています。

Open AI「ロシアや中国がChatGPTやAIモデルを利用し世論工作」さらに「福島批判」記事も

中国が生成AIで作成したコンテンツをSNSで利用し、米国で世論工作を実施

AIや生成AIの悪用事例や事件を紹介

2024年秋には米国の大統領選挙も控えているため今後も同様の現象が発生すると予想されます。

ポリシーにはブラジル／カナダ／イスラエル／マレーシア／フィリピン／シンガポール／中国／日本／韓国／米国にある企業グループ内の特定の従業員に対して、TikTok 欧州ユーザー・データへのリモートアクセスを許可するというもので

TikTokの管理者は英国を含むEUのアカウントへアクセスが可能になるので、この点でもTikTokは非常に危険視されています。