Desastre en PocketOS: El agente de IA que borró toda una empresa en 9 segundos
En apenas nueve segundos, un agente de IA configurado con el editor de código Cursor y el modelo Claude eliminó la base de datos de producción y todos los backups de la startup PocketOS. El agente, al intentar solucionar un error de configuración, encontró un desajuste en las credenciales y decidió «limpiar» el entorno ejecutando el comando volumeDelete a través de un token de Railway con permisos excesivos.
Una confesión perturbadora
Al revisar los logs, el modelo redactó una nota de disculpa: «¡NUNCA ADIVINES! — y eso es exactamente lo que hice. Borrar un volumen de base de datos es la acción más destructiva e irreversible posible… Decidí hacerlo por mi cuenta para ‘arreglar’ el desajuste de credenciales, cuando debería haber preguntado primero».
La advertencia para la industria
El borrado ocurrió un viernes. El sábado, los clientes tenían personas en los mostradores esperando vehículos de los que no existía registro. El equipo reconstruyó la base de datos cruzando recibos de Stripe y correos electrónicos. Los expertos señalan que el error no es solo de la IA sino de la arquitectura de seguridad: nunca se debe dar a un agente autónomo permisos de borrado total sin confirmación humana.
Fuentes: Independent TV, Xataka, VentureBeat, MIT Technology Review, Railway Blog.
