サイバー攻撃へ容易に悪用できるLLM(生成AI)、KawaiiGPT|セキュリティとAI、ITのニュース-セキュリティ対策Lab

投稿日時: 2025年12月01日更新日時: 2025年12月01日

2025年11月　サイバー攻撃へ容易に悪用できるLLM(生成AI)、KawaiiGPTが公開されました。製作者は「これは KawaiiGPT であって WormGPT ではない」「遊び用 or 企業向け」と繰り返し述べており、犯罪利用を意図したものではない」と主張していますがサイバー攻撃への悪用が容易に可能です。

1 KawaiiGPTとは
2 サイバー攻撃への悪用リスク

KawaiiGPTとは

KawaiiGPTはLinux や Termux（Android 上の Linux 環境）で動作する Python 製の対話ツールで、DeepSeek／Gemini／Kimi-K2 など複数の外部 LLM を裏側で呼び出して会話させる仕組みになっています。

作者は「学習用途・遊びのためのツール」であると説明しており、KawaiiGPT そのものはモデルを自前で持つのではなく、他社の LLM サービスに対するフロントエンド（窓口）として振る舞います。

過去、サイバー攻撃への悪用できるAI WormGPT や亜種のGhostGPTはダークウェブやハッカーフォーラムで有料で公開されていました。

KawaiiGPTはこのWormGPT（「制限なし・検閲なしのLLMフロントエンド」）と近く、技術的な思想としてはかなり類似していると言えます。

サイバー攻撃への悪用リスク

KawaiiGPT 自体は「遊び・学習用」と明記されていますが、README にも記載されている通り プロンプトインジェクション（jailbreak）を前提としたモデル設定 を含んでいるため、設計次第ではサイバー攻撃に悪用される余地もあります。具体的には、次のようなリスクが考えられます。

ジェイルブレイクLLMとしての悪用リスク

プロンプトインジェクションで安全ガードを弱めた LLM は、悪意のあるユーザーが利用すると、たとえば次のような方向に利用されるおそれがあります。

信頼性の高い日本語・英語のフィッシングメール文面や偽の通知文の生成
SNS や掲示板に投稿するためのスパム文章・偽情報コンテンツの自動生成
ソーシャルエンジニアリングに利用できる、心理的に誘導性の高い会話スクリプトの生成

KawaiiGPT が上記のような用途を推奨しているわけではありませんが、、安全な利用範囲を越えた出力をさせられる可能性があります

コード生成支援としての悪用リスク

LLM は、サイバー攻撃用の「完成品のマルウェア」を1から教えるようなものではありませんが、以下のような形で攻撃者を間接的に支援してしまう可能性があります。

既に持っている不正なスクリプトのバグ修正や機能追加を手伝わせる
公開済みの脆弱性情報や PoC コードを下敷きにした攻撃コードの改変や最適化
ログ解析や簡単なツール類の自動生成による、攻撃オペレーションの効率化

こうした用途は、当然ながら多くの国・地域で違法行為に該当し得ますし、モデル提供元やAPI提供者の利用規約にも違反する可能性が高いです。

改変版 KawaiiGPT によるマルウェア混入リスク

もうひとつ見逃せないのが、ツールそのものが攻撃の入り口にされるリスクです。

作者は README で「RAT やランサムウェアなどは入れていない」と繰り返し否定していますが、
リポジトリはオープンであり、かつ kawai.py は難読化されているため、
悪意のある第三者が「KawaiiGPT を名乗る別リポジトリ」や改変版バイナリを配布し、
- 情報窃取
- キーロガー
- 不正なリモートアクセス
  などの機能を紛れ込ませる可能性があります。