SHEIN（シーイン）はフェイクボイスやBotでTikTokを乗っ取り ステマ？

海外メディアのGlossyは、TikTok(ティックトック)内の動画でSHEIN（シーイン）を宣伝するコメント欄でフェイクボイスやBotが利用されている事を指摘しました。

ファッション業界では、AI声の悪用が大規模な問題になることはまだありませんが、TikTokやInstagramのクリエイターにとっては既に問題となっています。Bot（ボット）活動と共にこの問題は近月増加しています。ソーシャルメディアボットは、投稿、いいね、フォローなどの自動操作を行い、マーケティングや世論操作に使用されることがあります。

TikTokのコメント欄で利用されるSHEINを肯定するBot

TikTokの動画やSHEINを宣伝するコメント欄では、Bot(ボット)やAIを用いた音声コメントが注目されています。

過去6か月間、SHEINがTikTokで否定的に言及されるたびに、Botアカウントがコメント欄にポジティブなメッセージを大量に投稿し、すぐにアップデートされ、ブランドの人気や顧客満足度について誤った印象を与えています。

SHEINはこの件に関してコメントを提供できませんでした。

これらの行為が規制されない場合、SHEINに対する好意的な印象を操作し、製品の宣伝を助長する可能性があります。

Botアカウントの内容

Glossyの記者がこれらのBotアカウントのプロフィールをクリックすると、多くは空のプロフィールであり、不審なユーザーネームが付いていました。

アカウントは通常新しく、存在しないか詐欺的なInstagramプロフィールへのリンクが張られています。

また、SHEINをポジティブに宣伝する投稿も見られます。例えば、昨年の夏服をSHEINで購入することを勧める、バイラル動画（削除済み）には、Bot（ボット）と思われるアカウントからのSHEIN支持のコメントが殺到しました。

Bot（ボット）とAI音声は、クリエイターのコンテンツにも直接影響を与えており、例えば、SHEINは人気インフルエンサーのコンテンツを本人の許可なく盗んだとして非難されている。同社は動画をダウンロードし、透かしを削除し、独自の宣伝文を重ね、改変したコンテンツをプラットフォーム上の広告に使用しているとされている。

ファッションテクノロジーの専門家ダニエル・フェルメールは、この戦術がTikTokで使用されており、盗まれた動画が再利用され、750ドル相当のSHEINクレジットを約束する詐欺アンケートへ誘導していると述べた。

これらのアンケートはおそらく詐欺であり、視聴者に詐欺リンクに関与させることでインフルエンサーのリーチを悪用している

「こうしたクリエイターは、フォロワーがタグ付けして本当に自分なのか尋ねてくるまで、自分のコンテンツが改変され、再利用されていることに気付かないことが多い」とフェルメール氏は言いました。

「私がフォローしているあるクリエイターは、クリエイタープログラムに参加していて、このような状況から守ってくれると期待していたにもかかわらず、AIで改変された自分の動画を削除するために、TikTokとTikTokショップに1週間も追いかけ回さなければならなかったと話していた。」

悪用は、インフルエンサーが宣伝したことのない商品を宣伝するためにAIを使って声を変えることにまで及んでいる。2月には、インフルエンサーのIda Giancola (@dionysiangirl)が、ファストファッション商品を宣伝するために動画が盗まれ、音声を変えられた。

TikTokとTikTokShopにこの件を報告したにもかかわらず、コンテンツが削除されるまでに数日かかった。

TikTokの@styledsaraのクリエイターであるサラ・ウォーカーも、2月に同様の経験をした。投稿の背後にある偽ブランドは彼女をプラットフォーム上でブロックし、AI音声動画の削除要請には応じなかった。

「悪意のある人物がAIによる音声操作を利用して、何も知らない消費者にさらにジャンク品を売りつけようとするのは驚くことではないが、プラットフォームがこの新しい形の個人情報窃盗からクリエイターを保護していないのは残念だ」とフェルメール氏は語った。

しかし、コンテンツ詐欺やAI音声の使用に焦点を当てた規制は現在のところ存在しない。その代わりに、ジャンコラのようなクリエイターは、動画を削除させるために「モグラ叩き」戦略に頼らざるを得ない状況にある。

スカーレット ヨハンソンがOpenAIで自身の似た音声を使用される

女優のスカーレット・ヨハンソンは、自身に非常に似た声を用いたOpenAIの使用について声明を発表しています。このシステムは主に最新のGPT-4oを利用する顧客によって使用されています。

2023年9月、ヨハンソンはOpenAIからシステムに声を提供するオファーを受けましたが、これを断っていました。

声明の中でヨハンソンは、同社の最新デモで自分の声に似た声を聞いたことに驚いたと述べました。それからすぐに、OpenAIはこの特定の声「スカイ」の使用を中止することを発表しました。
OpenAI側はその声が別のプロの女優のものであると主張しましたが、誰の声であるかは明らかにしませんでした。

引用：Is Shein hijacking TikTok with fake voices and deceptive bots?

世論操作やフェイク動画などで悪用される生成AI

AIで生成されたディープフェイクやフェイク画像は、様々なところで悪用されています。

イギリスではTikTokで生成AIで作成された各政党指導者のフェイク動画が流行し、バイデン大統領の生成AIで作成された「なりすまし音声」が選挙戦の際に悪用されました。

また日本では、SNS型投資詐欺の有名人の合成音声には生成AIが悪用されています。

技術発展により、今後もこういった悪用は続いていくでしょう。

中国が生成AIで作成したコンテンツをSNSで利用し、米国で世論工作を実施

バイデン大統領の生成AI「なりすまし音声」を作成した男を起訴

AIや生成AIの悪用事例や事件を紹介