バイデン大統領の生成AI「なりすまし音声」を作成した男を起訴

2024年5月24日バイデン大統領の生成AI「なりすまし音声」を作成した「スティーブ・クレイマー」という男が起訴されました。この事件は生成AIによるディープフェイクを悪用した選挙戦の介入であると見られています。

バイデン大統領の「なりすまし音声」とは

2024年1月 米大統領選挙 予備選の有権者に対して、バイデン大統領の声によく似た音
声で「あなたの1票は11月の本選挙では違いを生むが、予備選挙では生まない　投票権を温存してください。」などという電話が数千人にかかってきました。

この音声はAIを利用していると思われ、当初何者かや特定国家が選挙戦への介入を行なっていると見られていました。

生成AI製の「なりすまし音声」を作成した人物

NBCニュースは先月、ディーン・フィリップス大統領選挙陣営と契約を結んだ民主党のベテラン活動家という「スティーブ・クレイマー」という政治コンサルタントと、彼の政治コンサルティング会社「Get Out the Vote」が、ストリートマジシャンのポール・カーペンターの協力を得て、生成AIで作成したバイデンのディープフェイク音声を作成したと特定されました。

なおこの人物は26件の刑事告発を受け、連邦通信委員会（FCC）から600万ドルの罰金も科されています。

なりすまし音声の発信元電話番号は偽装していた

バイデン氏の「なりすまし電話」は、現職大統領の予備選挙記名投票キャンペーンを支援するスーパーPAC（特別政治活動委員会） |を率いていた元ニューハンプシャー州民主党役員のキャシー・サリバン氏の携帯電話番号を偽装していました。

訴訟団の弁護人の一員は「信頼できる政治家の電話番号から大統領の声が聞こえ、大統領が『今日投票しないと11月に投票できないので、投票を温存しておいてください』と言うのは、有権者にとって何を意味するのか」とコメントしています。

スティーブ・クレイマーの動機

クレイマーは、生成AIが悪用され、米国選挙の公正さを脅かす可能性があることを明らかにしようとする試みだったと主張しています。

しかし電話番号を偽装されて取得されたサリバン氏は「彼は私の電話番号を成りすまし、Facebookページを削除し、共犯のカーペンターにメールを削除させ、クレイマーに対する行動を起こさないように人々を脅すなど、証拠を隠すために尽力した」とコメントしています。

関連記事

AIや生成AIの悪用事例や事件を紹介

生成AIの発達でサイバー攻撃はどう変わるか？