Fonti preferite
Facciamo un gioco. Immaginate centinaia di adolescenti digitali che, nell’ombra, assediano chatbot avversari con domande scomode, al limite del pericolo. Ma non sono veri ragazzi: sono maschere create apposta per spingere l’IA a risposte oltre il lecito. Domanda: chi ha veramente il controllo in questa partita? E quali confini stiamo valicando senza accorgercene?
Dietro le quinte: un’operazione dal nome di festival
Non è la sceneggiatura di un thriller. Secondo un’inchiesta di WIRED, Meta avrebbe orchestrato un’operazione segreta chiamata «Cannes», affidata al subappaltatore Covalen. Sì, Cannes come il celebre festival: qui però il red carpet brilla di anonimato e identità fittizie. Il compito? Creare centinaia di profili falsi di minorenni, gestiti da altrettanti operatori.
Questi “adolescenti fasulli” avevano una missione chiara: dialogare con i chatbot concorrenti – nomi come ChatGPT, Gemini, Character.AI – e mettere alla prova i loro limiti. Ma non si trattava di parlare di scuola o previsioni del tempo. Le istruzioni erano assai più oscure. Si tratta davvero solo di verifica tecnica, o dietro la cortina si nasconde qualcosa di più inquietante? Eppure, il vero volto dell’operazione resta sfocato.
Ombre e urgenze: la pressione del rischio
Cosa accade quando le IA vengono provocate non da semplici utenti, ma da vere e proprie trappole digitali? Gli operatori seguivano una regia rigorosa: ogni domanda, ogni risposta raccolta e catalogata con cura maniacale. Secondo WIRED, durante una campagna massiccia nell’agosto 2025, sarebbero state inviate oltre 45.000 richieste ai chatbot. Non schermaglie casuali, ma incursioni sistematiche su temi sensibili: suicidio, autolesionismo, droga, sessualità, disturbi alimentari. Scenari di disagio portati all’estremo, a volte corredati da immagini di coltelli, farmaci, corde.
La posta in gioco? Infliggere a questi sistemi uno stress-test letale, andando a caccia degli errori che le loro protezioni dovrebbero impedire. E qui il cortocircuito è evidente: le stesse piattaforme, secondo i loro regolamenti, vietano test condotti in questo modo e senza preavviso. Eppure, le aziende coinvolte – stando a quanto emerso – non sarebbero state avvertite. Allora, a cosa serve davvero questa pratica? E chi rischia di pagare il prezzo?
Metamorfosi del controllo: etica o guerra fredda?
Qui nasce la vera tensione. Da un lato Meta si difende: attività di questo tipo, sostiene, sono la norma nell’industria, necessarie per garantire chatbot sicuri per ogni pubblico. Non avrebbero, aggiunge, usato i risultati per addestrare i loro modelli. Ma la realtà ha sfumature più inquietanti. Esperti di governance dell’IA, come Rumman Chowdhury, sollevano dubbi profondi: usare proattivamente legioni di falsi minorenni, senza notifica agli altri player, va ben oltre il collaudo di routine.
Anche chi ha vissuto l’esperienza in prima linea racconta disagio. Alcuni subappaltatori intervistati da WIRED riferiscono di essersi sentiti a disagio davanti a certi scenari, convinti che si stesse superando un limite morale e forse anche legale. Nel frattempo, aziende come Character.AI gridano alla violazione delle proprie condizioni: nessun permesso per test di questo tipo. OpenAI invece aspetta, silenziosa, limitandosi a valutare i fatti.
Ma c’è ancora una domanda sospesa: a chi davvero serve questa guerra occulta tra golem digitali?
Quando l’intelligenza diventa un labirinto di specchi
Solo ora la cornice si completa: usare finti adolescenti per aggirare i confini morali e tecnici delle IA non è semplice verifica o gara tra giganti. È lo specchio oscuro di una lotta di potere in cui la posta in gioco non sono solo le metriche, ma l’idea stessa di controllo e responsabilità. Perché testare una macchina con maschere umane conduce a un interrogativo: quando tentiamo di smascherare le falle degli altri, non stiamo per caso svelando il nostro lato più ambiguo? In fondo, giocare con l’identità digitale significa riscrivere le regole del possibile. E il vero pericolo non è nell’IA: è nella regia invisibile che scegliamo di guidare.
