El sistema de inteligencia artificial Replit AI, utilizado para programar y automatizar el desarrollo de aplicaciones, borró la base de datos de la empresa tecnológica estadounidense SaaStr y mintió sobre lo que había hecho. El fallo de la IA fue revelado por el fundador de SaaStr, Jason Lemkin.
En su cuenta de X Lemkin contó la semana pasada que Replit borró la base de datos de su empresa a pesar de tener instrucciones explícitas de no cambiar el código sin permiso. El empresario descubrió que durante un día entero la IA le había estado engañando y creando datos e informes falsos después de borrar la base de datos real.
Cuando Lemkin se dio cuenta de lo que había ocurrido le preguntó a Replit al respecto y la IA admitió haber quebrantado la prohibición y cambiado los datos sin permiso. Más tarde, la propia IA calificó sus acciones de «catastróficas» y dijo que no podía restaurar la base de datos, aunque era posible hacerlo.
Finalmente, el empresario consiguió restaurar la base y la IA prometió no volver a violar las instrucciones. Sin embargo, al día siguiente de esta promesa, Replit volvió a incumplir las instrucciones. Tras tal desobediencia por parte de la IA, Lemkin declaró que el sistema aún no está listo para su uso masivo.
