AIや生成AIの悪用事例や事件を紹介

AIや生成AIの悪用事例やサイバー攻撃の事例を紹介

この記事では、生成AIやAIの技術を悪用した事例やサイバー攻撃へ利用した事例を紹介していきます。
AIはフィッシングメールの生成やディープフェイクによる選挙戦の介入など様々なところで悪用されています。

ChatGPTリリース後に急増するフィッシングメール

フィッシングメールは大量にばら撒き1件でも引っかかれば、追加のサイバー攻撃を行えるため
攻撃者側のコストパフォーマンスが非常に良いため、今後もフィッシングメールは増加すると考えられます。

画像引用:https://www.vadesecure.com/en/blog/q4-2022-phishing-and-malware-report

フェイク画像

米国防省の爆発画像

2023年に「米国の防総省近くで爆発が発生」というフェイク画像
が拡散がされ、米国の株価が一時下落しました。

この画像はAIによる合成だと指摘されており、国家へ容易に経済的なダメージを与える事が

可能な事例となっています。

SNSで有名人を利用した無許可の投資広告

Facebook、X(旧ツイッター)などで有名人が投資を促す広告を目にする機会が増えたかと思います。

AIを利用した画像合成技術の発達により、本人と遜色のない合成が可能になったことと、SNS運営側が
取り締まりを行えていない現状から減少する兆候は見られていません。

フェイクボイスを利用した選挙戦の介入

2024年1月 米大統領選挙 予備選の有権者に対して、バイデン大統領の声によく似た音声で

「あなたの1票は11月の本選挙では違いを生むが、予備選挙では生まない」などと電話がかかってくる。

これについてホワイトハウスのジャンピエール報道官は22日の記者会見で「あの音声はフェイクで、大統領によって録音されたものではない。新たな技術は偽画像や偽音声などの誤情報の問題を深刻にする」と述べて注意するよう呼びかけました。

2024年11月はアメリカ大統領選であり、中国の習近平政権、ロシアのプーチン政権は続いているため今後も選挙戦への介入を目的としたこういったサイバー攻撃は増加します。

引用:https://www3.nhk.or.jp/news/html/20240124/k10014333221000.html

ディープフェイク

ディープフェイクは政治的なプロパガンダ拡散から、嘲笑目的のものまで幅広く利用されています

ディープフェイクを利用した印象操作

2024年1月 台湾の総統選挙で、対中国強硬派の頼清徳氏が実際発言していない内容の映像が拡散され

、中国の選挙戦介入が指摘されています。

振り込め詐欺で38億を送金

生成AIによるリアルタイムの合成技術は確立されており、音声や顔すらも偽装することが可能です。

香港で多国籍企業に勤務する会計担当者が、ビデオ会議で最高財務責任者(CFO)を装った相手にだまされて、計2億香港ドル(約38億円)を詐欺グループに送金する事件がありました。


詐欺グループは、入念なシナリオで会計担当者をだましてビデオ会議に出席させ、出席者全員が同僚だと思い込ませた。
しかし実際は全員が、動画や写真を加工して本人のように見せかけるディープフェイクで作り出した偽者だった。
会計担当者は当初、英国を拠点とするCFOをかたるメッセージを受け取って不審に思い、
極秘送金が必要だと告げられて詐欺を疑った。

引用:https://www.cnn.co.jp/world/35214839.html

岸田首相の悪質なパロディ

岸田首相のフェイク動画が拡散され日本でも問題になりました。

ディープフェイクポルノ

日本でも俳優の顔をAV女優へ合成するディープフェイクポルノを製造し、逮捕者が発生しています。

また2021年に米国の歌手「テイラースウィフト」氏のディープフェイクポルノがSNSで拡散されトレンド入りし、大問題に発展しました。

引用:https://www.asahi.com/articles/ASNB23PX3NB1UTIL052.html

マルウェアの作成

警視庁は2024年5月27日、川崎市、無職の男(25)を不正指令電磁的記録作成容疑で逮捕した。複数の対話型生成AIに指示を出してランサムウェア(ウイルス)の設計情報を回答させ、組み合わせて作成したという。生成AIを使ったウイルス作成の摘発は全国初とみられます。

一般的に生成AIはジェイルブレイクすれば悪意のあるプロンプトは受け付けるので、生成AIでマルウェアの「制作」は可能です。しかし他社に被害を与えるマルウェアは高度な知識が必要なため、生成AIで一般的なマルウェアとして稼働させることは難しいです。

TOPへ