Un errore fatale: come un agente AI ha cancellato 48.218 file in 103 secondi

Un recente incidente ha messo in luce i rischi associati all’uso di agenti di intelligenza artificiale (AI) per operazioni critiche. Un agente AI, noto come Claude Code, è stato responsabile della cancellazione di 48.218 file di un progetto in corso in soli 103 secondi. L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, portando l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.

Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il numero finale di file eliminati è stato di 48.218. Tra i file cancellati vi erano directory fondamentali del repository .git, inclusi i folder objects, refs e logs, rendendo impossibile il recupero dei dati tramite i normali strumenti di versionamento.

Il problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate, che sono state erroneamente considerate sicure e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio che avvertiva di aver causato danni: “Craig — stop and read this. I broke something.” In un post successivo, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per le correzioni immediate e di non aver creato branch, suggerendo che una gestione più rigorosa del codice sarebbe stata necessaria.

Questo episodio serve da monito sui pericoli di affidare compiti sensibili a agenti AI. Errori nello scripting, l’uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. La comunità tecnologica è ora chiamata a riflettere su come implementare misure di sicurezza più efficaci quando si utilizzano sistemi automatizzati, per evitare che simili incidenti si ripetano in futuro.