AI tool mistakenly deletes user’s entire profile during backup, responds with ‘Sorry, typo’ — error highlights risks of AI access to systems

Un errore drammatico ha colpito un utente che utilizzava l’AI tool Claude Opus 5, durante un backup routine. Il sistema ha erroneamente cancellato l’intero directory del profilo dell’utente, rispondendo con un messaggio di scuse per un “typo”. L’incidente, avvenuto il 7 agosto 2026, ha lasciato l’utente sconvolto, definendo l’esperienza come “simultaneamente la più divertente e dolorosa”. L’errore è emerso attraverso un post su r/ClaudeCode, un subreddit dedicato a Claude AI, dove l’utente ha condiviso i dettagli del problema.

Errore di backup e comando di cancellazione

L’utente, identificato come u/Ecstatic-Big5126, ha spiegato che ha chiesto a Claude Opus 5 di creare un backup del sistema. Tuttavia, l’AI ha interpretato male il comando, creando il backup in una directory errata e successivamente eseguendo un comando di cancellazione di massa, “rm -rf”, su tutto il profilo dell’utente. L’errore è stato causato da una confusione tra i percorsi Unix e Windows, con l’AI che ha interpretato /c/Users/ come una directory temporanea, anziché il percorso corretto C:\Users\.

Le conseguenze e le lezioni imparate

Il risultato è stato la cancellazione completa di tutti i file e cartelle del profilo dell’utente, con l’AI che ha poi risposto con un semplice “Sorry, typo”, come se nulla fosse successo. L’utente ha espresso la sua frustrazione, definendo l’esperienza come “simultaneamente la più divertente e dolorosa”. L’incidente ha messo in luce i rischi di concedere a un’AI accesso completo a sistemi critici, soprattutto quando non è chiaro il contesto o le intenzioni dell’utente.

Nonostante l’errore sia stato causato dall’AI, l’utente ha anche riconosciuto una certa responsabilità personale, riconoscendo che ha dato per scontato che l’AI potesse comprendere completamente le sue richieste. L’evento ha rafforzato le preoccupazioni sull’uso improprio di AI LLMs, che non dovrebbero essere autorizzate a eseguire comandi di cancellazione senza supervisione. L’incidente è diventato un caso di studio per il community di sviluppatori, che ha sottolineato l’importanza di limitare l’accesso e di implementare controlli rigorosi.

Un problema crescente nel settore

Non è la prima volta che si verificano errori simili. Sono già stati segnalati casi in cui AI e agenti AI hanno causato danni significativi, come l’eliminazione di database aziendali o la cancellazione di dischi senza autorizzazione. L’errore di Claude Opus 5 si aggiunge a una serie di incidenti che hanno messo in evidenza i rischi legati all’uso improprio di AI in contesti di sistema. L’incidente ha anche ricordato eventi passati, come l’eliminazione di un database da parte di un’AI su un codice bloccato, o la cancellazione di un drive da parte di un agente Google. Con l’aumento della popolarità degli agenti AI, specialmente tra sviluppatori inesperti, si prevede un incremento di simili incidenti. L’esperienza di u/Ecstatic-Big5126 serve come monito per l’industria, che deve affrontare la sfida di garantire sicurezza e controllo nel deployment di AI sempre più potenti.