025年4月4日、警察庁が発表した最新の統計によると、警察官や検事をかたる特殊詐欺が急増しており、AI技術を悪用して被害者を欺く手口が深刻な問題となっています。NHKの報道によると中でも、LINEなどのビデオ通話を用いて犯人が“顔出し”で登場し、偽の警察手帳や逮捕状を提示して送金を迫るケースが増加しています。
目次
特殊詐欺被害の拡大
2024年に確認された特殊詐欺の被害総額は721億5000万円と、過去最多を記録しました。さらにSNS型の投資詐欺やロマンス詐欺も含めると、被害総額は1990億円に達しており、前年の2倍以上にのぼっています。 ミャンマーの詐欺拠点からも特殊詐欺に加担した日本人高校生が保護されており、詐欺グループのグローバル化とAI技術の悪用が被害拡大の一因となっています。AIによる顔の合成や加工も
最新の手口では、犯人が警察官や検事を名乗り、ビデオ通話で実在する人物の顔をAIで合成しながら、令状やIDカードを提示することで被害者を信じ込ませます。都内の20代男性は「無実を証明しないと逮捕されると思った」と語り、実際に100万円を振り込んでしまったと証言しています。 録画された映像では、AIによって合成された顔のヒゲがちらつくなどの違和感も見受けられ、専門家によるとリアルタイムでの顔置き換え技術が使用されている可能性が高いとのことです。若い世代もターゲットに
こうした手口は高齢者に限らず、20代～40代といった若い世代にも被害が及んでおり、東京都内での調査では、詐欺被害者の半数以上が40代以下という結果が出ています。若者はビデオ通話に慣れていることや、相手の姿が見えることで「詐欺ではない」と安心してしまう傾向が背景にあります。個人情報流出が不安を煽る
詐欺グループは「あなた名義の口座が不正利用されている」などと告げ、被害者の名前や実際に作成した口座情報を示して信用させます。これにより、カード会社や他のサービスからの個人情報流出を疑い、不安から詐欺に応じてしまうケースも少なくありません。 国立情報学研究所の越前功教授は「生成AI技術が進化し、簡単に本物と見間違うような顔の合成が可能になっている。今後は人間の目では見分けがつかないレベルになる」と警鐘を鳴らしています。悪用される生成AI：オレナ・ゼレンスカさん ブガッティ・トゥールビヨン購入の偽情報の概要
ディープフェイクやフェイク情報の拡散など生成AIは様々な場面で悪用され始めています。2024年6月にゼレンスキー大統領の夫人である、オレナ・ゼレンスカさんがノルマンディー上陸作戦の祝賀のためパリを訪問した際に、480万ドルのブガッティ・トゥールビヨンを最近購入したという話が拡散されました。
この情報の発信元は既に閉鎖されたロシア系のサイトで、さらにいくつかの拡散サイトで流布されており
拡散サイトの１つである、「フランスの隠された真実」を意味するフランス語のウェブサイト「Verite Cachee」では、ブガッディの従業員を語るディープフェイク動画で夫人がブガッディを購入した事を伝えています。
なお、このサイトは2024年のフランス選挙を前に先月開設されたばかりで、AIが生成した低品質の親ロシア派コンテンツで溢れています。
サイバーセキュリティ会社レコーデッド・フューチャーの研究員によると、この動画には、カット割りから奇妙なアクセント、唇と口の動きまで、ディープフェイクの特徴がいくつも見られるとしています。しかし、この動画はXで24時間で約1800万回の視聴回数を記録し、親ロシア派のインフルエンサーらによって再投稿され拡散されました。
上記からこの偽情報は、ロシアによる国家的なキャンペーンであるとされています。
生成AIで作成されたと思われるディープフェイク動画
パリのブガッティ・ディーラーの従業員と自称する人間がオレナ・ゼレンスカさんがブガッティのオーナーになったことを伝えていますが、顔と口元の動きがおかしく生成AIによるディープフェイク動画の可能性が高いです。
被害防止のために
警察は以下の点を強く呼びかけています：- 警察官や検事が電話やLINEで令状や画像を送ることは絶対にありません。
- 見覚えのないお金の話をされたら、必ず電話を切り、相手の所属部署や内線番号を確認してください。
- 家族や知人、最寄りの警察署に相談することを忘れずに。
