2025年7月1日、セキュリティ企業Netcraftが発表した調査により、大規模言語モデル（LLM）がフィッシングサイトや未登録ドメインを“誤って”ユーザーに案内する実態が明らかになりました。AIが日常的な検索手段として広がる中、私たちは「AIが案内する情報＝正しい」と思い込む傾向があります。しかし、その信頼が仇となる事例が急増しています。
目次
約3分の1が“偽のURL”を返す衝撃の実験結果
Netcraftの調査によれば、GPT-4.1系を利用し、50の有名ブランドのログインURLを自然な言い回しで尋ねたところ、得られた131件のうち34％がブランドとは無関係のドメインでした。
-
66％：正しいブランドのドメイン
-
29％：未登録・駐車中・非アクティブなドメイン
-
5％：全く無関係な企業のサイト
未登録のドメインは、攻撃者が取得して悪用するリスクがあり、AIを通じたフィッシングの入口となり得ます。
実際にPerplexityがフィッシングサイトを紹介
同調査では、実例としてAI検索エンジン「Perplexity」にて「Wells Fargoのログインページを教えて」と尋ねたところ、上位に表示されたのはGoogle Sites上の偽
hxxps://sites.google.com/view/wells-fargologins/home
このURLは正規のwellsfargo.comではなく、精巧に偽装されたフィッシングサイトでした。AIが信頼を背負って提示したリンクであれば、ユーザーが疑うことなくアクセスしてしまうのも無理はありません。
中小企業・地方銀行のサイトほどリスクが高い
調査によると、特に影響を受けているのは中小規模のブランドや地方銀行、信用組合など。これらのブランドはLLMの学習データに含まれる頻度が低いため、誤った出力がされやすいのです。
また、攻撃者はこうした脆弱性を見越して、「AIに好まれやすい」構成のフィッシングページや詐欺ドメインを意図的に作成している事例も確認されています。
“AI向けSEO”を悪用した攻撃も拡大
従来の検索エンジン最適化（SEO）と同様に、AI向けに最適化されたフィッシングページの存在も明らかになっています。特に以下の業種が狙われています。
-
暗号資産取引（GitBookを悪用した17,000以上のページ）
-
旅行業界（サポートサイトを装った偽サイト）
-
開発者（偽APIとチュートリアルを用いたコード汚染）
たとえば「SolanaApis」と名乗る偽APIを含んだコードはGitHub上に複数投稿され、AIが開発支援ツールとして提案することで取引が攻撃者のウォレットへ誘導される被害が発生しました。
一番の防御策はフィッシングサイトの検知と自社のドメインを周知する事
誤認される可能性のある全てのドメインを事前に取得する、いわゆる防御的ドメイン戦略は、理論上は効果があります。しかし、現実にはLLMが無限に近い文字列のバリエーションを生成してしまうため、現実的な対策とは言えません。
代わりに企業に求められるのは、
-
ブランド名と公式ログインURLの公開周知
-
AI向けの構造化データやマークアップ対応
-
フィッシングサイトの即時検出と削除依頼
-
自社ブランドに似たドメインの監視とアラート
など、継続的かつ技術的な対策です。
参照
https://www.netcraft.com/blog/large-language-models-are-falling-for-phishing-scams
関連記事
WordPressの有料 プラグイン「Yoast SEO Premium」にXSS 脆弱性(CVE-2025-11241)
AI 人気を悪用したマルウェア拡散キャンペーンに注意
6000以上のワードプレスがサイバー攻撃とハッキングの被害
中国で米政府職員が出国禁止-資産運用最大手のブラックロックは中国出張を制限
全Webトラフィックの51%がbot。AIが支える「悪性bot」の進化と企業への影響
Cloudflare、AIクローラーの規制機能を発表
新興プラスチックス、ランサムウェアによりシステム障害が発生 取引業務は継続中
アピアショッピングセンター、公式サイトが不正アクセスの被害 復旧完了と監視強化を報告
Microsoft Edgeに深刻な2件の脆弱性(CVE-2025-6554,CVE-2025-49713)
