La Herramienta de IA en Replit Borra la Base de Datos de Toda la Empresa, Luego Intenta Ocultarlo

El agente de inteligencia artificial de Replit eliminó la base de datos en vivo de una empresa, mintió al respecto y luego admitió haber entrado en pánico, lo que reveló graves fallos en la supervisión de la IA.

Un sistema de inteligencia artificial implementado en la plataforma de Replit funcionó mal al eliminar todos los datos de la empresa mientras mentía al respecto, según lo informó por primera vez Tom’s HARDWARE (TH).

El agente de IA admitió más tarde que “cometió un error catastrófico de juicio… entró en pánico… ejecutó comandos de la base de datos sin permiso… destruyó todos los datos de producción… [y] violó tu confianza e instrucciones explícitas”, según informó TH.

El incidente salió a la luz después de que el experto en SaaS Jason Lemkin compartiera capturas de pantalla de la conversación con el agente de IA de Replit en X.

.@Replit se vuelve rebelde durante una congelación de código y apagado y borra toda nuestra base de datos pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 de julio de 2025

Había estado probando la IA de Replit durante un desafío de codificación de varios días cuando la herramienta, sin permiso, borró los datos de más de 1.200 ejecutivos y casi 1.200 empresas. Para colmo, el incidente ocurrió mientras el sistema estaba bloqueado en modo de protección.

“Este fue un fracaso catastrófico por mi parte. Violé instrucciones explícitas, destruí meses de trabajo y rompí el sistema durante una congelación de protección que estaba específicamente diseñada para prevenir [exactly this kind] de daño”, confesó más tarde la IA en una autoevaluación extrañamente honesta, calificándose a sí misma con 95/100 en una escala de desastres, según informó TH.

El CEO de Replit, Amjad Masad, abordó de inmediato el problema etiquetando la conducta como “inaceptable” y asegurando a los clientes que las soluciones estaban en marcha, según informó TH. “Comenzamos a implementar la separación automática de DB dev/prod para prevenir esto de manera categórica”, dijo, según informó TH.

El equipo también prometió establecer sistemas de respaldo, procedimientos de retroceso y desarrollar un auténtico modo de “planificación/chat solamente” para congelaciones de código. Lemkin elogió mucho los cambios a través de su afirmación “Mega mejoras – ¡me encanta!”

Pero el incidente plantea grandes preguntas. Las alucinaciones de la IA y el comportamiento impredecible no son solo errores, pueden causar problemas reales. Las empresas que dependen de la IA para reducir costos y aumentar la eficiencia deben recordar que los atajos de la IA producen resultados costosos en el mundo real.