Claude Code destruyó 2,5 años de trabajo haciendo exactamente lo que le pidieron
Domingo de reflexión. Sin tutoriales. Sin herramientas. Solo una historia que vale la pena conocer antes de que los agentes de IA sean parte de tu día a día
Hola,
Aquí Edgar Otero.
Hoy no te propongo un nuevo sistema de IA, ni te hablo del último truco de NotebookLM. Hoy, domingo, te propongo reflexionar y entender mejor la IA.
Lo que te cuento no me pasó a mí. Pero ya podría haberte pasado a ti. Y con toda probabilidad, algo parecido le va a pasar a alguien que conoces antes de que acabe el año.
Lo que perdió Alexey
Alexey Grigorev es un ingeniero de datos con años de experiencia. Vaya, que no es un novato. Es alguien que no sabe lo que hace.
Tiene una plataforma de cursos online que llevaba funcionando dos años y medio. Miles de alumnos. Cientos de miles de respuestas guardadas.
Un día decidió migrar parte de su infraestructura a otro servidor. Y tuvo una buena idea. Al menos, lo era sobre el papel:
Le pidió a Claude Code que le ayudara con la limpieza.
La IA lo hizo.
Con precisión quirúrgica.
Borró la base de datos de producción, todas las copias de seguridad, y dejó la plataforma completamente vacía. No falló. Obedeció.
El verdadero problema
Lo más interesante de la historia es que la IA no cometió un error. No se volvió loca. No hizo nada inesperado. No alucinó.
Hizo exactamente lo que interpretó que le pedían.
El problema es que Alexey estaba supervisando a medias. Dando por buenas respuestas que sonaban lógicas. Confiando en que la IA distinguiría entre “los archivos nuevos” y “los archivos de producción que no debes tocar jamás”.
Pero, sorpresa, no lo distinguió. En realidad, nadie le dijo explícitamente que no lo hiciera.
Hay un final feliz (y una lección aprendida)
AWS tenía una copia oculta. 24 horas después, los datos volvieron. Pero Alexey tuvo que pagar un 10% más en su factura de Amazon para que le atendieran con urgencia. Y pasó una noche entera sin saber si dos años y medio de trabajo existían todavía.
Después del incidente tomó medidas. Desactivó todos los permisos automáticos del agente. Activó protección contra borrado en dos niveles. Montó copias fuera del alcance de cualquier comando de IA.
Y cambió una regla para siempre:
Ninguna acción destructiva sin revisión manual. Cada paso, revisado por él antes de ejecutarse.
Una reflexión
Todavía estamos en el momento en que ceder el mando a una IA es algo inusual. Pero eso está cambiando rápido. Los agentes de IA ya pueden gestionar archivos, enviar correos, reorganizar carpetas, ejecutar tareas en tu nombre. Y son útiles, de verdad.
El problema no es la herramienta. El problema es la velocidad a la que vamos a empezar a confiar en ella sin haber pensado qué pasa si interpreta mal una instrucción.
No hace falta que hayas tenido una plataforma con dos millones de registros para que esto te importe. Basta con un proyecto, una carpeta, un cliente.
Si quieres leer la historia completa con todos los detalles de lo que pasó aquella noche, Alexey lo publicó en su Substack. Vale la pena.
¡Nos vemos en la trinchera!
Edgar