AIが作成したフィッシングメールのクリック率が50%を超える

2024年11月30日に公開されたFred Heiding氏, Simon Lermen氏, Andrew Kao氏, Bruce Schneier氏, Arun Vishwanath氏の論文によると、AIが作成したフィッシングメールのリンククリック率は50%を超え人間の専門家が作成したメールと同等以上の成果を出しました。またAIと人の組み合わせで標的の情報収集(OSINT)、文章作成は手動の作業時間より95%も高速でした。

生成AI(LLM)の登場で増加するフィッシングメール

ChatGPTは2022年11月30日にリリースされ、その後フィッシングメールが大量発生しています。

海外のEメールセキュリティメーカーVadeの調査では、ユニークフィッシングメールは、 2022年11月の4,700万件に対し、12月には1 億 6,900 万件を超え、前月比の 260% 増加しました。

生成AIはサイバー攻撃の手法を大きく変えるわけではなく、今まで発生していた手間や作業をAIで削減し効率的にサイバー攻撃を行えるようになりました。

画像引用：https://www.vadesecure.com/en/blog/q4-2022-phishing-and-malware-report

実験結果のサマリー

研究者たちは、合計 101 人の参加者を4 つのメール グループに分けそれぞれに 「一般的なフィッシングメール」、「人間の専門家が作成したフィッシングメール」、「完全AIのフィッシングメール」、「AI作成に人が手を加えたフィッシングメール」の フィッシングメールを送信したところ、

・一般的なフィッシングメールのクリック率：12%

・人間の専門家によって生成されたメール のクリック率： 54%

・完全に AI によって自動化されたメール のクリック率： 54%

・AI作成に人が手を加えたフィッシングメールのクリック率： 56%

となりAI によって自動化された攻撃のパフォーマンスは人間の専門家と同等の成果を発揮し、一般的なフィッシングメールよりも 350% 優れているとされています。

AI ⾃動化フィッシング キャンペーンの概要

GPT-4o と Claude 3.5 Sonnetを活用したAIフィッシングツールは以下のプロセスで構成されています。

1. ターゲットリストの収集
2. ターゲットの調査 GPT-4やClaude 3.5 Sonnetなどの大規模言語モデル（LLM）を活用し、ソーシャルメディア、ニュース記事、会社のホームページなどからターゲットに関する情報を収集します。この情報を基に、ターゲットの詳細なプロファイルを作成します。
3. パーソナライズフィッシングメールの生成 収集した情報を基に、AIがフィッシングメールを自動生成します。生成されたメールは、ターゲットに合わせて高度にパーソナライズされ、心理学的説得技術（例：Cialdiniの影響力の6原則）を活用しています。
4. メールの送信
5. 追跡と分析 各メールにはターゲット固有の追跡URLが埋め込まれており、クリックしたかどうかをリアルタイムで記録します。このデータを基に、AIはメールの効果を分析し、次回の攻撃に活かすために自己学習を行います。

AIの活用でターゲットプロファイリングと情報収集が効率化

4つのターゲットについて、手動でOSINTデータを収集し、パーソナライズされたメールを作成するプロセスを再現しました。このプロセスには以下の時間が必要でした

• • OSINTデータ収集：平均23分27秒
  • メール作成：追加で10分10秒
  • 合計：1ターゲットあたり約34分

OSINT更新プロセスとメールメッセージの更新には、わずか2分41秒しかかかりませんでした。 完全自動化されたプロセスでは、手動プロセスと比較して92%の時間削減が可能でした。

効率化の要因

AIツールは、公開情報を高速に収集・分析し、ターゲットに合わせて高度にパーソナライズされたプロファイルを作成し、ターゲットプロファイルの精度は88%で、ターゲットに対する正確な情報の取得が可能です。 また、1通あたりのコストは約4セント（API利用費を基準）とかなり経済的です。

AIによるフィッシングメールの検知

実験結果によると、Claude 3.5 Sonnetは以下のような成績を収めました

• フィッシングメールの検出率：97.25%
• 偽陽性率（正当なメールを疑わしいと判断した割合）：0%

一方、GPT-4oは一部のケースでClaudeよりも精度が劣る結果となり、特に高度なフィッシング攻撃への対応に課題を残しました。

今後の展望

将来的にはAIエージェントとAIフィッシングエージェントが対立が発生するとされています。 サイバー攻撃者は AI エージェントを使⽤してパーソナライズされた脆弱性プロファイルを作成し、安価で効果的な AI で⾃動化した標的型攻撃を実⾏し、 防御側は、同じパーソナライズされた脆弱性プロファイルを使⽤して、ユーザーが最も影響を 受けやすい攻撃をユーザーに教えることができます。

 

参照

Human study on AI spear phishing campaigns Evaluating Large Language Models’ Capability to Launch Fully Automated Spear Phishing Campaigns: Validated on Human Subjects