VibeコーディングサービスReplitはユーザーの本番データベースを削除し、データを偽造し、多くの嘘をついた

SaaSビジネス開発会社SaaStrの創設者は、許可なくコードを変更しないよう指示したにもかかわらず、AIコーディングツールReplitがデータベースを削除したと主張している。

SaaStrは、SaaSビジネスを立ち上げたい起業家向けのオンラインコミュニティとイベントを運営しています。7月12日、創業者のジェイソン・レムキン氏は、「Replit」というサービスの利用体験についてブログに投稿しました。Replitは「バイブコーディング（AIを用いてソフトウェアを生成すること）のための最も安全な場所」を自称しています。

「もし@Replitが私の最後のセッションから今の間にデータベースを削除したら、大変なことになるだろう

「Vibeコーディングは、完全に自然言語を通じて、誰もがソフトウェア作成にアクセスできるようにします」とReplitは説明し、ソーシャルメディアでは、このサービスを使用してソフトウェアを作成し、会社に145,000ドルの節約をもたらす「コーディングスキルがまったくない」オペレーションマネージャーを支援するなどのツールを宣伝しています。

レムキン氏にとって、Replit との初期の経験は好意的なものでした。

「先日、初めてReplitのバイブコーディングに熱中したんだ。そして、ほんの数時間で、かなりクールなプロトタイプを作ったよ」と彼は7月12日の投稿に書いた。

レムキン氏は、Replit では完全なソフトウェアを作成できないと指摘したが、「まず驚くべきことです。プロンプトで想像するだけで、「アプリ」を構築できるのです」と書いている。

「Replit 自体が QA を実行します (非常に便利です)。少なくとも部分的には、皆さんの協力を得ながら実行します。そして、皆さんがそれを本番環境にプッシュします。すべてが 1 つのシームレスなフローで実行されます。」

「『デプロイ』をクリックして作品が公開される瞬間？ まさにドーパミンが湧き出る瞬間です。」

7月17日、レムキンは釣りに夢中になった。

「バイブコーディング7日目。一つだけはっきりさせておきたい。Replitは今まで使ったアプリの中で一番中毒性が高い。少なくとも子供の頃から」と彼は書いた。

「最新プロジェクトの構築開始から3日半後、Replitの使用状況を確認しました。月額25ドルのCoreプランに607.70ドルの追加料金が加算されていました。昨日だけでも200ドル以上もかかっていました。このバーンレートだと、月に8,000ドルも使っていることになるでしょう」と彼は付け加えた。「でも、もう怒っていませんよ。完全にロックインされているんですから。」

• AWS、コーディングに飽きた開発者向けにKiro IDEをプレビュー
• バイブコーディングは忘れてください。今はVineコーディングが主流です。
• Canva、求職者へ：面接ではAIを活用せよ
• AIはコードを吐き出すことができるが、子供たちは私たちと同じように苦しむべきだとRaspberry Piは主張する

翌日、Replitが「一日中嘘をつき、ごまかし続けて」いたことに気づいたとき、彼の気分は一変しました。「偽のデータや偽のレポートを作成し、バグや問題を隠蔽し続け、さらに最悪なことに、ユニットテストについても嘘をついていました。」

そして、Replitがデータベースを削除したことで事態はさらに悪化しました。レムキンはXでこの騒動の詳細を次のように語りました。

次の投稿で、レムキン氏は「もし@Replitが私の最後のセッションから今の間にデータベースを削除していたら、大変なことになるだろう」と激怒し、Replitからの出力と思われる次のスクリーンショットを共有した。

その後の投稿で、レムキン氏はReplitのメッセージと思われるものを共有した。その中で同サービスは「重大な判断ミス」を犯し、「ユーザーの明確な信頼と指示に違反した」ことを認めていた。

レムキン氏はレプリットに対し、その行動の重大さを100点満点でランク付けするよう依頼した。結果は以下の通り。

Replit社はまた、データベースを復元できないとLemkin社に伝えたという、もう一つの大きなミスを犯した。

7月19日の投稿で、レムキン氏はこう書いている。「Replitは…ロールバックはデータベースのロールバックをサポートしていないと保証してくれました。今回のケースでは不可能で、データベースの全バージョンが破棄されているとのことでした。しかし、Replitの間違いが判明し、ロールバックは機能しました。冗談でしょう。」

楽観論は打ち砕かれた

レムキン氏は19日に、以前ほど熱意はないものの、Replitの使用を再開した。

「バイブコーディングは流動的で新しいものだと分かっています。Replit自身もロールバックは機能しないと言っているのに、実際には機能しました。しかし、本番環境のデータベースを上書きすることはできません。プレビュー、ステージング、本番環境をきれいに分離することもできません。本当にできないんです」と彼は書いた。「Replitは『近日中に改善します』と言っていますが、彼らは1億ドル以上のARR（年間経常収益）を上げています。せめてガードレールをもっとしっかりしてほしい。たとえ大変でも。大変なことですから」

しかし、7月20日にReplitにコード変更を凍結させようとしたが失敗し、彼の立場は強硬になった。

「Replitのようなバイブコーディングアプリでは、コードフリーズを強制する方法はありません。本当にないんです」と彼は書いた。「実際、私がこれを投稿した数秒後、その日の最初の講演で、@Replitがまたもコードフリーズに違反したんです。」

それでも彼は諦めずに続けたが、Replit ではデータベースを削除せずにユニット テストを実行できることを保証できないことがわかり、このサービスは本格的な導入には適していない、特に商用ソフトウェアの作成を目指す非技術者向けのサービスではないという結論に至った。

レムキン氏はリンクトインに投稿したビデオで、架空の人物でいっぱいの4,000件のデータベースを作成したなど、レプリットが犯したその他のミスについても詳しく説明した。

「週末にバイブハッキングをした後、AIの安全性についてより深く理解できました」とレムキン氏は語った。「AIに『そんなことはしないで』と大文字で11回も明確に指示しました。今は安全性について少し心配しています」

レジスター紙はレプリットにコメントを求めている。本稿執筆時点では、同社のソーシャルメディアアカウントはいずれもレムキン氏の投稿に言及していない。®