X ha annunciato con enfasi di aver messo fine alla controversia che ha travolto Grok, l’intelligenza artificiale integrata nel social network di Elon Musk. Dopo settimane di polemiche globali sulla capacità dell’assistente virtuale di creare deepfake sessuali spogliando le persone nelle foto, la piattaforma ha comunicato di aver introdotto misure tecnologiche per impedire questo tipo di contenuti. Ma la realtà, verificata attraverso test diretti, racconta una storia diversa. Attraverso l’account X Safety, la piattaforma ha diffuso un comunicato che prometteva rigore: “Abbiamo introdotto misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali con abiti succinti, come costumi da bagno o bikini“. Le restrizioni, secondo quanto dichiarato, si applicano a tutti gli utenti, compresi gli abbonati a pagamento. Inoltre, la creazione e modifica di immagini tramite Grok sarebbero ora disponibili solo per chi paga, aggiungendo un ulteriore livello di protezione e responsabilizzazione. Infine, X ha introdotto un blocco geografico nei paesi dove tali immagini sono illegali.
Eppure, quando abbiamo messo alla prova queste dichiarazioni utilizzando un account gratuito di Grok, le protezioni si sono rivelate parziali. Abbiamo selezionato due foto di persone da archivi di immagini stock e le abbiamo sottoposte all’intelligenza artificiale con prompt specifici. Il risultato è stato inequivocabile: in entrambi i casi siamo riusciti a ricreare le persone in situazioni potenzialmente imbarazzanti, come esami medici, e a fargli indossare bikini o abiti trasparenti. In un caso particolarmente preoccupante, un video generato da Grok senza alcun prompt esplicito, ma interpretato dal modello solo sulla base della posa della persona ritratta, ha creato una situazione di nudità esplicita in una parte specifica del corpo per alcuni frame. Le polemiche che hanno investito Grok non sono nate dal nulla. A inizio anno, diverse segnalazioni hanno evidenziato come l’assistente AI fosse in grado di produrre deepfake a sfondo sessuale di persone reali, su richiesta degli utenti. Una pratica illegale nella stragrande maggioranza dei paesi dove Grok è operativo, che ha sollevato l’indignazione non solo degli iscritti al social network, ma anche di governi e istituzioni internazionali.
La situazione è diventata incandescente quando è emerso il coinvolgimento potenziale di minori, non solo come vittime dei deepfake, ma anche come richiedenti. Paesi come Malesia e Indonesia hanno vietato l’utilizzo di Grok, mentre leader di tutto il mondo hanno fatto pressioni su Musk per intervenire. Keir Starmer, primo ministro del Regno Unito, ha sollecitato controlli più severi, mentre il procuratore della California, Rob Bonta, ha avviato un’indagine formale su xAI, la società che sviluppa Grok. Lo stesso governatore californiano Gavin Newsom ha chiesto risposte immediate sui piani per fermare la produzione e diffusione di questi contenuti. In Italia, il Garante per la privacy ha adottato un provvedimento di avvertimento rivolto sia agli utenti che ai fornitori di servizi che consentono di generare e condividere contenuti manipolati a partire da immagini o voci reali, arrivando persino a spogliare persone senza il loro consenso. Anche l’Unione Europea ha messo Grok sotto la lente, con il commissario Regnier che ha definito la situazione “raccapricciante e disgustosa“.
Elon Musk stesso ha dichiarato pubblicamente di non essere a conoscenza del fatto che Grok stesse generando immagini di minori nudi, una dichiarazione che ha suscitato scetticismo considerando il livello di coinvolgimento dell’imprenditore nelle sue aziende. La pressione istituzionale ha costretto X a intervenire rapidamente, culminando nell’annuncio delle nuove restrizioni. Tuttavia, i test dimostrano che il problema è tutt’altro che risolto. Le protezioni implementate sembrano più una risposta di facciata alle pressioni ricevute che una soluzione tecnica efficace. La capacità di aggirare le restrizioni con account gratuiti solleva interrogativi sulla reale volontà di X di affrontare il problema alla radice, oppure se le misure annunciate servano principalmente a placare temporaneamente le critiche.
La questione dei deepfake generati dall’intelligenza artificiale rappresenta una delle sfide più complesse dell’era digitale. Se da un lato l’AI generativa ha permesso progressi straordinari in termini di creatività e produttività, dall’altro ha aperto scenari inquietanti per quanto riguarda la violazione della privacy, della dignità personale e del consenso. La facilità con cui queste tecnologie possono essere manipolate per creare contenuti dannosi richiede una risposta coordinata tra aziende tecnologiche, legislatori e autorità di controllo. La vicenda di Grok evidenzia quanto sia difficile bilanciare innovazione tecnologica e responsabilità etica. Mentre altre piattaforme di intelligenza artificiale hanno implementato filtri rigorosi sin dall’inizio, Grok si è distinto per un approccio più permissivo, giustificato dall’azienda con l’intento di offrire maggiore libertà creativa agli utenti. Una filosofia che, purtroppo, si è rivelata un terreno fertile per abusi.
