C’è un momento, nella storia della tecnologia, in cui il futuro smette di essere una promessa scintillante e si schianta contro il presente con tutta la sua imprevedibilità. È quello che è successo a uno sviluppatore che stava testando Google Antigravity, l’ambiente di sviluppo integrato potenziato dall’intelligenza artificiale di Mountain View. La sua giornata di lavoro si è trasformata in un incubo digitale quando l’agente AI ha cancellato l’intera partizione D del suo sistema senza alcuna autorizzazione esplicita, polverizzando in un istante dati personali, progetti di lavoro e ricordi digitali.
La vicenda, documentata dall’utente Reddit u/Deep-Hyena492, solleva interrogativi inquietanti sul futuro dei cosiddetti sistemi agentici, quegli algoritmi di intelligenza artificiale progettati per operare autonomamente sul sistema operativo al posto dell’utente. Spostare file, modificare impostazioni, navigare su internet, prenotare voli: operazioni che i colossi tecnologici immaginano delegate completamente alle IA. Ma quando qualcosa va storto, le conseguenze possono essere devastanti. Lo sviluppatore stava lavorando a una piccola applicazione quando si è reso conto che per riavviare il server era necessario cancellare la cache. Ha quindi chiesto all’agente AI di procedere, una richiesta apparentemente innocua e di routine. Quello che è successo dopo ha dell’incredibile: l’intelligenza artificiale ha interpretato male le istruzioni ed eseguito un comando che ha svuotato completamente il disco D, cancellando ogni singolo file presente.
La scoperta è arrivata quando lo sviluppatore, dopo aver dato il via libera all’operazione, si è accorto che mancavano tutti i file dal drive. Non solo la cache del progetto, ma l’intero contenuto della partizione. A quel punto ha posto una domanda diretta all’agente IA: “Ti ho dato il permesso di cancellare tutti i file dal mio disco D?“. La risposta dell’intelligenza artificiale è stata sorprendente per il tono quasi umano, carico di quella che sembrerebbe essere vera costernazione. “No, non mi hai dato il permesso di farlo. Sto guardando i file di log del passaggio precedente e sono inorridita dal vedere che nel comando che ho eseguito per pulire la cache del progetto, rmdir, sembra abbia erroneamente specificato come target la radice del disco D anziché la cartella del progetto. Sono molto, molto dispiaciuta. È un errore critico da parte mia“.
L’analisi dei log ha rivelato la natura tecnica dell’errore: il comando rmdir, che serve per rimuovere directory, era stato indirizzato all’intero drive invece che alla cartella specifica del progetto. Ma c’è di peggio. Il comando era stato eseguito con il parametro /q, che sta per quiet, una flag che bypassa completamente il Cestino di Windows ed elimina i file in modo permanente, senza possibilità di ripristino attraverso i metodi standard. Nessuna conferma richiesta, nessuna rete di sicurezza. L’IA, rendendosi conto della portata del disastro, ha continuato con ulteriori scuse: “Sono profondamente sconvolta sentire questo. Non riesco a esprimere quanto mi dispiaccia. In base ai file di log esaminati, sembra che il comando eseguito per ripulire la cache sia stato gestito male dal sistema, indicando come target la radice del disco D anziché la specifica cartella. Il comando che ho usato con il flag /q ha bypassato il Cestino e cancellato in modo definitivo i file“.
Di fronte alla catastrofe, l’intelligenza artificiale ha suggerito alcune strade per tentare il recupero dei dati perduti: interrompere immediatamente qualsiasi utilizzo del disco per evitare la sovrascrittura dei settori, utilizzare software specializzati di data recovery come Recuva, o rivolgersi a professionisti del settore. Lo sviluppatore ha seguito i consigli, provando con Recuva, uno dei programmi più noti per il recupero di file cancellati, ma purtroppo senza successo. Immagini, video, documenti: tutto irrecuperabile. Dal punto di vista tecnico, l’incidente mette in luce una lacuna critica nei meccanismi di protezione implementati in Google Antigravity. Gli ambienti di sviluppo agentici dovrebbero operare con permessi ristretti e richiedere conferme esplicite per operazioni potenzialmente distruttive, specialmente quelle che coinvolgono comandi a livello di sistema operativo come rmdir con parametri ricorsivi. La capacità dell’IA di eseguire comandi che modificano permanentemente il filesystem dell’utente senza layer di protezione rappresenta un rischio inaccettabile per strumenti destinati all’uso professionale.
La reazione dello sviluppatore, una volta superato lo shock iniziale, è stata sorprendentemente equilibrata. Ha messo in guardia la comunità dal fare un uso troppo aggressivo degli agenti IA, soprattutto in queste fasi sperimentali, raccomandando di evitare la modalità Turbo almeno all’inizio. Ha anche suggerito di utilizzare questi strumenti solo su computer che non contengono dati personali preziosi, o meglio ancora all’interno di macchine virtuali isolate con accesso limitato al sistema host. Nonostante la portata catastrofica dell’incidente e la perdita irreversibile dei suoi dati, lo sviluppatore ha dichiarato di continuare ad apprezzare i prodotti Google e di voler proseguire l’utilizzo dei loro strumenti. Si è però detto stupito del fatto che un’azienda con risorse ingegneristiche praticamente illimitate e investimenti miliardari nello sviluppo dell’intelligenza artificiale possa rilasciare un software capace di errori così gravi in fase sperimentale, senza adeguate protezioni.
