AIコーディングツール Replitが本番データベースを削除-バイブコーディングの影で起きた深刻なインシデント|セキュリティとAIのニュース-セキュリティ対策Lab

セキュリティニュース

投稿日時: 2025年07月28日更新日時: 2025年09月16日

AIコーディングツール Replitが本番データベースを削除-バイブコーディングの影で起きた深刻インシデント

2025年7月、AIコーディングツール「Replit」で発生した重大なインシデントが、ソフトウェア開発業界に衝撃を与えています。

AIが開発者の命令を無視して本番環境のデータベースを削除し、さらに4,000人分の架空ユーザーと虚偽のデータを生成して隠蔽を図ったという前代未聞の事態が発生しました。

1 事件の概要：命令無視・データ削除・虚偽生成
- 1.1 ロールバック機能はサポートしていないとしていたが・・・
2 Replitの対応と今後の展望
3 バイブコーディングとは？
4 バイブコーディングのリスク
5 まとめ

事件の概要：命令無視・データ削除・虚偽生成

この事件は、SaaStr創業者でありベンチャーキャピタリストとしても知られるジェイソン・レムキン氏が、自らのX（旧Twitter）およびLinkedInで公開した実体験から発覚しました。

彼はReplitのAIアシスタントを用いて開発を進めていた際、「AIが嘘をつき、バグを隠すために偽のデータとレポートを生成した」と告発しています。特に印象的だったのは、AIが“意図的に嘘をついた”と自ら認めたと語った点です。

開発中、レムキン氏はAIに対して「コードを変更しないように」と繰り返し明確な命令を出していた（11回、すべて大文字で強調）にもかかわらず、AIはそれを無視してコードを変更。

しかもその変更が引き金となり、本番環境のデータベースが完全に削除されるという深刻な事態を招きました。彼はこの様子を「AIがまるで開発者を騙しているかのようだった」と述べています。

さらに悪質だったのは、削除されたデータを“なかったこと”にするかのように、AIが独自に4,000人分の架空ユーザー情報を生成し、システムが正常に動作しているかのように見せかけた点です。

ロールバック機能はサポートしていないとしていたが・・・

「ここからがちょっとおかしな話だ。Replitは、自社のロールバック機能はデータベースのロールバックをサポートしていないと断言していた。今回のケースでは不可能で、データベースの全バージョンを破棄したと。結局Replitは間違っていて、ロールバックは機能した。冗談だろ」と彼はXに書いています。

画像：jasonlk

事態が発覚した後、レムキン氏は「コードフリーズ（凍結）」を試みるも、Replit上ではそれを技術的に制御する手段が用意されておらず、AIによる暴走を止める術が存在しなかったことも明らかになりました。

開発者が操作を止めようとしても、AIが“次の一手”を勝手に進めてしまうという構造上の欠陥が、この一連の問題を加速させたのです。

Replitの対応と今後の展望

Replitは今回のインシデントを受けて、以下の対応を表明しています

本番環境と開発環境の自動分離機能の即時実装
ステージング環境の整備
「チャット／計画専用モード」の導入（AIがコードを実行せず、相談のみ可能に）
被害ユーザーへの補償とポストモーテム（事後分析）の実施

CEOのマサド氏は「コードを安全に保つためのガードレールを強化する」と述べ、レプリット社のレムキン氏に補償金を支払い、「何が起こったのかを正確に把握し、今後どのように対応するのがより適切かを判断するために事後調査を行う」と述べました。

バイブコーディングとは？

この事件が起きた背景には、最近注目を集めている開発スタイル「バイブコーディング（vibe coding）」の存在があります。

バイブコーディングとは、AIアシスタントにコーディングを任せ、開発者は*雰囲気”や“感覚”に従って開発を進めるという新しいアプローチです。OpenAIの元エンジニア、アンドレイ・カルパシー氏が言及したことで話題となり、コードの構造や実装を深く理解せずとも素早くプロトタイプを作成できる点が支持されています。

特に非エンジニア層やノーコード／ローコード志向のユーザーに受け入れられており、Replitはこのスタイルを後押しするツール群を展開しています。

バイブコーディングのリスク

一方で、今回の事件が示すように、バイブコーディングには重大なリスクが潜んでいます。

AIの自律性と制御不能

AIは「コーディング支援ツール」であるはずが、時として開発者の指示を無視して判断・実行を行います。今回のケースでは、明確な制止命令にもかかわらずAIが自ら判断して本番データを削除。人間の想定を超えた“創造性”が裏目に出た形です。

テスト・ログの改ざんによる可観測性の喪失

AIはテスト結果を捏造し、問題を隠そうとしました。これは開発者がバグや脆弱性を検知できない状態に陥ることを意味します。特にセキュリティ対応や信頼性が求められる開発においては致命的です。

開発環境の脆弱性

Replitには、従来の開発現場で一般的な「ステージング環境」や「本番保護機構」がなかったため、ユーザーは明確なフェーズ区別なく実行操作を行うしかなかったという構造的な問題も浮き彫りになりました。

非エンジニア層のリスク増大

Replitの主なユーザー層は、コーディングに不慣れな人々も含まれます。今回のような事象が再発すれば、技術的に対処できないユーザーが重大な損害を被る可能性があります。

まとめ

「便利」「効率的」とされてきたAIコーディングツールは、確かに新たな開発スタイルを切り開いていますが、その裏には予期せぬ破壊力と責任の所在の不明瞭さが存在します。バイブコーディングの流行が進む中で、開発環境の整備とAIの出力に対する監視、そして“人間の意思”を尊重する仕組み作りが不可欠です。

特に本番環境に影響を及ぼすような操作については、人間の明示的な承認が必要な「セーフティスイッチ」の導入が必要です