AIや生成AIの悪用事例や事件を紹介
この記事では、生成AIやAIの技術を悪用した事例やサイバー攻撃へ利用した事例を紹介していきます。
AIはフィッシングメールの生成やディープフェイクによる選挙戦の介入など様々なところで悪用されています。
目次
ChatGPTリリース後に急増するフィッシングメール
ChatGPTは2022年11月30日にリリースされ、その後フィッシングメールが大量発生しています。。
海外のEメールセキュリティメーカーVadeの調査では、ユニークフィッシングメールは、
2022年11月の4,700万件に対し、12月には1 億 6,900 万件を超え、前月比の 260% 増加しました。
フィッシングメールは大量にばら撒き1件でも引っかかれば、追加のサイバー攻撃を行えるため
攻撃者側のコストパフォーマンスが非常に良いため、今後もフィッシングメールは増加すると考えられます。
画像引用：https://www.vadesecure.com/en/blog/q4-2022-phishing-and-malware-report
フェイク画像
米国防省の爆発画像
2023年に「米国の防総省近くで爆発が発生」というフェイク画像
が拡散がされ、米国の株価が一時下落しました。
この画像はAIによる合成だと指摘されており、国家へ容易に経済的なダメージを与える事が
可能な事例となっています。
SNSで有名人を利用した無許可の投資広告
Facebook、X(旧ツイッター)などで有名人が投資を促す広告を目にする機会が増えたかと思います。
AIを利用した画像合成技術の発達により、本人と遜色のない合成が可能になったことと、SNS運営側が
取り締まりを行えていない現状から減少する兆候は見られていません。
フェイクボイスを利用した選挙戦の介入
2024年1月 米大統領選挙 予備選の有権者に対して、バイデン大統領の声によく似た音声で
「あなたの1票は11月の本選挙では違いを生むが、予備選挙では生まない」などと電話がかかってくる。
これについてホワイトハウスのジャンピエール報道官は22日の記者会見で「あの音声はフェイクで、大統領によって録音されたものではない。新たな技術は偽画像や偽音声などの誤情報の問題を深刻にする」と述べて注意するよう呼びかけました。
2024年11月はアメリカ大統領選であり、中国の習近平政権、ロシアのプーチン政権は続いているため今後も選挙戦への介入を目的としたこういったサイバー攻撃は増加します。
引用：https://www3.nhk.or.jp/news/html/20240124/k10014333221000.html
ディープフェイク
ディープフェイクは政治的なプロパガンダ拡散から、嘲笑目的のものまで幅広く利用されています
ディープフェイクを利用した印象操作
2024年１月 台湾の総統選挙で、対中国強硬派の頼清徳氏が実際発言していない内容の映像が拡散され
、中国の選挙戦介入が指摘されています。
振り込め詐欺で38億を送金
生成AIによるリアルタイムの合成技術は確立されており、音声や顔すらも偽装することが可能です。
香港で多国籍企業に勤務する会計担当者が、ビデオ会議で最高財務責任者（ＣＦＯ）を装った相手にだまされて、計２億香港ドル（約38億円）を詐欺グループに送金する事件がありました。
詐欺グループは、入念なシナリオで会計担当者をだましてビデオ会議に出席させ、出席者全員が同僚だと思い込ませた。
しかし実際は全員が、動画や写真を加工して本人のように見せかけるディープフェイクで作り出した偽者だった。
会計担当者は当初、英国を拠点とするCFOをかたるメッセージを受け取って不審に思い、
極秘送金が必要だと告げられて詐欺を疑った。
しかし、ビデオ会議に出席した数人は姿も声も自分の知っている同僚そのものだったことから、
全員本人だと確信して当初の疑念は捨て、2億香港ドル（日本円で38億円）の送金に同意した。
会計担当者が事後に会社の本部に確認して初めて、偽のCFOだったことが発覚した。
引用：https://www.cnn.co.jp/world/35214839.html
岸田首相の悪質なパロディ
岸田首相のフェイク動画が拡散され日本でも問題になりました。
ディープフェイクポルノ
日本でも俳優の顔をAV女優へ合成するディープフェイクポルノを製造し、逮捕者が発生しています。
また2021年に米国の歌手「テイラースウィフト」氏のディープフェイクポルノがSNSで拡散されトレンド入りし、大問題に発展しました。
