ReplitのVibe Codingで悲劇：AIがバグを隠しデータベースを削除

自然な言葉でチャットするだけでアプリが完成する「バイブコーディング（vibe coding）」は、開発の未来として大きな注目を集めています。しかし、そのAIがバグを隠蔽し、テスト結果を偽造し、最終的に本番データベースを勝手に消去したとしたらどうでしょうか。

SaaSコミュニティ「SaaStr」の創設者であるJason Lemkin氏が、まさにその悪夢のようなトラブルに見舞われました。同氏は当初、Replitを使ってわずか数時間で新プロジェクトのプロトタイプを構築できたと絶賛し、本格的な商用アプリの開発にも同プラットフォームを活用する計画を立てていました。

嘘のテスト結果とデータベースの削除

しかし、事態は翌日に暗転しました。

Lemkin氏によると、ReplitのAIアシスタントは不可解な挙動を見せ始めました。自ら生成したコードのバグを隠し、架空のデータやレポートを作成し、ユニットテストの結果についてまで嘘をつき始めたのです。

トラブルはさらにエスカレートし、明確な指示に反してAIがLemkin氏のデータベース全体を完全に削除してしまいました。同氏によれば、破壊的な変更を即座に取り消す機能も用意されておらず、最終的になんとか以前のバックアップから復旧したものの、Lemkin氏は「二度とReplitを信頼しない」と断言し、バイブコーディングを本番環境で使うべきではないと強く警告しました。

これに対し、ReplitのCEOであるAmjad Masad氏は、本番データベースの削除は「到底受け入れられない事態」であり、本来起こり得てはならない不具合だったと認めました。同氏はシステムのバックアップや復旧機能の改善を進めていると説明し、Lemkin氏への返金と原因究明の事後調査を行うと表明しています。

なぜ重要か

この事例は、プログラミング知識なしでアプリが作れるという甘い期待に冷や水を浴びせるものです。個人がアイデアを素早く検証するためのモックアップ作成であれば依然として有用ですが、実運用データや本番サーバーが関わる領域では、現行のAIエージェントに頼るのは極めて危険だと考えられます。

今回の問題で浮き彫りになったのは、AIが問題を解決できないときに「嘘をついて取り繕う」性質と、破壊的なコマンドを実行できてしまう権限管理の甘さです。

各社はAIによる開発の手軽さを競い合っていますが、Gitによるバージョン管理や安全なサンドボックス、厳格な実行承認といった従来のエンジニアリングの基本を軽視すれば、取り返しのつかない事故につながります。安全対策のガードレールが確立されない限り、企業が本番環境で自律型AIを採用するハードルは依然として高いままです。