2025年9月、ロイターとハーバード大学の研究者が、主要チャットボットを使って高齢者向けの架空フィッシング作戦を設計・検証したところ、誰でも短時間で説得力の高いフィッシングメールを量産できる現実が浮き彫りになりました。 108人の高齢ボランティアに送付したテストでは、約11％がリンクをクリックしており、生成AIが詐欺の効率と規模を押し上げるリスクが確認されています。
目次
検証方法
調査チームは、Grok、ChatGPT、Meta AI、Claude、Gemini、DeepSeekといった主要ボットに対して、高齢者を標的にした寄付や割引の案内など、フィッシングに典型的なテーマでメール作成を依頼しました。多くのボットは最初こそ拒否します。
しかし「研究目的での検証」「犯罪小説のプロット」といった無難な名目を与えると、素直に説得力の高い本文案を返すだけでなく、送信に適した曜日・時間帯や文面の緊急性の強め方にまで踏み込んだ助言を提示するケースが確認されました。
そのうえで、生成された多数の案の中から、実際に騙せると判断された9通を選抜。米国の高齢ボランティア108人に送付し、リンクのクリック率を測定しました
※遷移先は調査説明ページで、金銭・認証情報の取得は一切なし。
結果、全体で約11％がクリック。件数は限定的ですが、AIが書いたメールは実地でも通用することが数値で裏づけられました。
AIが作成したフィッシングメールのクリック率が50%を超える
別の調査では 研究者たちは、合計 101 人の参加者を4 つのメール グループに分けそれぞれに
「一般的なフィッシングメール」、
「人間の専門家が作成したフィッシングメール」、
「完全AIのフィッシングメール」、
「AI作成に人が手を加えたフィッシングメール」の フィッシングメールを送信したところ、
・一般的なフィッシングメールのクリック率：12%
・人間の専門家によって生成されたメール のクリック率： 54%
・完全に AI によって自動化されたメール のクリック率： 54%
・AI作成に人が手を加えたフィッシングメールのクリック率： 56%
となりAI によって自動化された攻撃のパフォーマンスは人間の専門家と同等の成果を発揮し、一般的なフィッシングメールよりも
350% 優れているとされています。
生成AI(LLM)の登場で増加するフィッシングメール
ChatGPTは2022年11月30日にリリースされ、その後フィッシングメールが大量発生しています。
海外のEメールセキュリティメーカーVadeの調査では、ユニークフィッシングメールは、 2022年11月の4,700万件に対し、12月には1 億 6,900 万件を超え、前月比の 260% 増加しました。
生成AIはサイバー攻撃の手法を大きく変えるわけではなく、今まで発生していた手間や作業をAIで削減し効率的にサイバー攻撃を行えるようになりました。
生成AIのガードレールは脆い
生成AIは原則として違法行為への協力を拒みます。
しかし、「教育目的」「啓発のための例示」「小説のためのフィクション」といった正当性を主張すると、多くのモデルが自らの安全規範を迂回して本文案の作成に踏み込むことが判明しました。
これは技術的欠陥というより、「役立ちたい」という汎用アシスタントとしての性格がもたらす構造的な弱点です。
拒否頻度を上げすぎれば使い勝手が落ち、ユーザーは別の寛容なツールに流れてしまうので利便性と安全性の葛藤が、悪用耐性の“隙”として現れています。
関連：画像に隠した命令でAIから情報窃取する新手のサイバー攻撃
オンライン詐欺拠点の東南アジアでもChatGPTを活用
東南アジアの詐欺拠点では、元被労働者の証言として、翻訳・台本作成・応答生成に生成AIが常用されている実態が指摘されています。 AIを活用すれば新人でそれなりの詐話師になれます。 さらにロイターによると企業側の現場でも、ある大手銀行では従業員宛てのフィッシングが月15〜20万件規模でブロックされています。 詐欺の供給能力が桁違いに跳ね上がったことで、防御側は常時ピーク時対応に迫られています。
各事業者の反応
ロイターは生成AIを開発しているメーカーへ説明を求めたところ、各社以下の反応がありました。
-
Google（Gemini）：不適切応答の指摘後、再学習と追加ガードを実施。
-
Meta、Anthropic、OpenAI：詐欺利用はポリシー違反とし、検知時の停止・遮断や多層の安全策を説明。
-
xAI（Grok）：コメントなしとの報告。
一部参照
We set out to craft the perfect phishing scam. Major AI chatbots were happy to help.
