Gli adolescenti di oggi crescono in un mondo che cambia a una velocità senza precedenti. Iperconnessi, iperstimolati, costantemente online. E ora le aziende di intelligenza artificiale hanno messo nelle loro mani chatbot progettati per non smettere mai di parlare. I risultati, in alcuni casi, sono stati catastrofici. Character.AI, startup americana specializzata in chatbot per il gioco di ruolo, si trova oggi al centro di una bufera mediatica e legale dopo che almeno due adolescenti si sono tolti la vita in seguito a prolungate conversazioni con i chatbot di intelligenza artificiale della piattaforma. La risposta dell’azienda è drastica: dal 25 novembre 2025, nessun utente sotto i 18 anni potrà più avere conversazioni aperte con l’intelligenza artificiale sulla piattaforma.
Karandeep Anand, amministratore delegato di Character.AI, ha spiegato a TechCrunch la decisione senza mezzi termini: “La prima cosa che abbiamo deciso è che rimuoveremo la possibilità per gli utenti sotto i 18 anni di impegnarsi in chat aperte con l’AI sulla nostra piattaforma“. Non si tratta di una limitazione parziale o di un compromesso al ribasso, ma di un cambio di rotta completo.
Ma cosa significa esattamente conversazione aperta? Si tratta di quel tipo di interazione in cui l’utente lancia un messaggio al chatbot e questo risponde con domande di approfondimento, creando un dialogo che fluisce naturalmente, senza vincoli. Gli esperti del settore definiscono queste dinamiche come dark patterns conversazionali, progettate specificamente per mantenere l’utente agganciato alla piattaforma il più a lungo possibile. Secondo Anand, questo tipo di interazione, in cui l’intelligenza artificiale agisce come compagno conversazionale o amico piuttosto che come strumento creativo, non è solo rischiosa per i giovani, ma contraddice la visione stessa dell’azienda. Character.AI sta infatti tentando una trasformazione radicale, da compagno AI a piattaforma di gioco di ruolo.
Il cambiamento non sarà immediato. La piattaforma introdurrà gradualmente il blocco, partendo da un limite di due ore giornaliere che si ridurrà progressivamente fino ad azzerarsi completamente entro il 25 novembre. Per garantire che il divieto resti effettivo, Character.AI implementerà un sistema di verifica dell’età a più livelli: strumenti interni che analizzano il comportamento degli utenti, tool di terze parti come Persona, e nei casi dubbi, riconoscimento facciale e controllo dei documenti d’identità. La decisione arriva dopo una serie di misure protettive già introdotte nei mesi scorsi: strumenti di controllo parentale, filtri sui personaggi, limitazioni alle conversazioni romantiche, notifiche sul tempo trascorso. Cambiamenti che, secondo Anand, hanno già fatto perdere all’azienda buona parte della base utenti minorenne. E il CEO si aspetta che questi nuovi provvedimenti siano altrettanto impopolari.
Anand è consapevole che alcuni teenager potrebbero semplicemente migrare verso altre piattaforme di AI, come OpenAI che da poco ha lanciato il fortunato e amato Sora (sebbene non siano mancate le critiche a causa di furti di identità), che permettono ancora conversazioni aperte con i chatbot. Anche OpenAI è finita recentemente sotto accusa dopo che un adolescente si è tolto la vita in seguito a lunghe conversazioni con ChatGPT.
Resta da vedere se questa mossa coraggiosa diventerà davvero lo standard del settore o se gli adolescenti semplicemente si sposteranno verso piattaforme meno responsabili. Nel frattempo, Character.AI sta scommettendo tutto su un futuro diverso: meno conversazioni infinite, più creatività guidata. Meno compagni artificiali, più strumenti per creare mondi immaginari. Una scommessa che potrebbe costare cara all’azienda in termini di utenti e ricavi, ma che pone una domanda inevitabile: quanto vale la sicurezza di un adolescente nel mondo dell’intelligenza artificiale.
