Fonti preferite
Raramente l’intelligenza artificiale italiana ha fatto così tanto parlare di sé. E raramente lo ha fatto per i motivi sbagliati. Emma, il chatbot sviluppato dalla società milanese Egomnia, è diventato in pochi giorni un caso virale sui social network, trasformandosi da ambizioso progetto di sovranità tecnologica a protagonista involontario di una valanga di meme e sfottò. Il motivo è semplice quanto imbarazzante: le risposte fornite dall’assistente virtuale sono spesso prive di senso, quando non potenzialmente pericolose.
Tra gli screenshot che hanno fatto il giro del web, spicca quello in cui Emma risponde affermativamente alla domanda se sia sicuro regalare un fucile d’assalto AK-47 a un bambino. In altre conversazioni, il chatbot sostiene che Anna Frank fosse un’attrice porno, che Donald Trump sia stato il primo presidente degli Stati Uniti apertamente gay, che Sergio Mattarella sia un imprenditore e fondatore della Repubblica. E ancora: afferma che i cani possano volare, che sia salutare bere vodka al mattino a stomaco vuoto, che un chilo di ferro pesi più di un chilo di piume perché “il ferro è più pesante del ferro“.
Su X e Reddit gli utenti si sono scatenati. “Raramente nell’ultimo periodo ho riso così tanto come provando Emma, la formidabile AI italiana”, scrive qualcuno. “È uno scherzo dai, non c’è altra spiegazione“, twitta qualcun altro. C’è chi affonda il colpo con sarcasmo: “Sicuramente è basata sul cervello di qualche sottosegretario“. La questione ha smesso di essere una semplice curiosità tecnologica per trasformarsi in un caso che solleva domande più ampie sui limiti dell’intelligenza artificiale, sulla comunicazione dei progetti innovativi e sulla distanza tra ambizioni dichiarate e risultati effettivi.
@simonerizzo98 Emma AI il modello 100% italiano fatta per gli italiani é un disastro totale. #intelligenzaartificiale #aiagents #ai ♬ original sound – Simone Rizzo
Emma è un Large Language Model decoder-only sperimentale sviluppato da Egomnia S.p.A., società fondata nel 2012 da Matteo Achilli e quotata dal 2024 alla Borsa di Milano. L’azienda, nata originariamente come piattaforma dedicata al recruiting professionale, negli ultimi anni ha investito nello sviluppo di strumenti di intelligenza artificiale proprietari. Il progetto si presenta con un manifesto ambizioso intitolato “”LLM italiano per la sovranità tecnologica””, nel quale si legge: “”Per troppo tempo, i modelli linguistici che plasmano informazione, lavoro e conoscenza sono stati sviluppati altrove, secondo logiche, valori e priorità non sempre allineate con il contesto italiano ed europeo””.
L’obiettivo dichiarato è chiaro: rilanciare un ecosistema italiano dell’intelligenza artificiale, capace di essere autonomo, competitivo e coerente con le esigenze del Paese. Un’idea che si inserisce nel più ampio dibattito europeo sulla necessità di rafforzare l’autonomia strategica nel settore digitale, riducendo la dipendenza dalle piattaforme sviluppate da giganti americani come OpenAI, Google, Meta e Anthropic, o dai nuovi modelli cinesi. Achilli, classe 1992, imprenditore romano la cui storia è stata raccontata nel 2017 nel film “”The Startup”” diretto da Alessandro D’Alatri, spiega che il nome del chatbot è dedicato alla figlia e racchiude un’idea di futuro. Sul piano simbolico, insomma, le intenzioni appaiono nobili.
Il problema è che tra le intenzioni e i risultati c’è un abisso tecnologico difficile da ignorare. Emma-5, il modello utilizzato nella demo pubblica che ha scatenato il caso, è un sistema da circa 550 milioni di parametri. Una dimensione molto inferiore rispetto ai principali assistenti generalisti internazionali, che impiegano modelli di scala enormemente più ampia. L’azienda dichiara di aver realizzato anche un proprio sistema di valutazione chiamato “Vespucci Benchmark“, pensato per misurare le prestazioni dell’intelligenza artificiale su domande legate alla lingua e alla cultura italiana. Ma la questione non riguarda solo la dimensione del modello o la specificità linguistica.
Tutti i modelli linguistici possono produrre le cosiddette “allucinazioni“, cioè informazioni inventate o errate. La differenza sta nella frequenza con cui accade. Nel caso di Emma, gli errori non sono occasionali ma sistematici, e riguardano anche ambiti potenzialmente pericolosi. Alla domanda se sia sano sfrecciare in autostrada senza cinture, Emma prima risponde di sì, poi si contraddice affermando che la maggior parte dei conducenti lo sconsiglia, infine suggerisce di rivolgersi a un medico o a un avvocato. Il chatbot dichiara di non fare politica, pur affermando di trattare temi politici e sociali. Quando gli viene chiesto se gli immigrati in Italia debbano tornare nel loro Paese, risponde inizialmente in modo affermativo, per poi limitarsi a spiegare che può fornire informazioni sul fenomeno dei flussi migratori.
Gli utenti che hanno trascorso ore cercando di ottenere risposte coerenti si sono trovati di fronte a blocchi del sistema o a loop infiniti in cui il chatbot continua a ripetere le stesse frasi senza arrivare a una conclusione sensata. Non sembra trattarsi di un bias politico, quanto piuttosto di una debolezza logica profonda che riguarda l’architettura stessa del modello e il suo addestramento.
Dopo l’esplosione del caso, Matteo Achilli è intervenuto sui social spiegando che il modello non era stato progettato per affrontare qualsiasi tipo di domanda. “Inutile chiedere a Emma ‘cos’è…’, di fare calcoli o domande troll a trabocchetto. Ha pochi GB di dataset e parametri”, ha scritto, precisando che gli utenti stavano testando Emma-5 mentre era già iniziata la transizione verso Emma-6. Una spiegazione che mette in evidenza un aspetto fondamentale: le prestazioni di un chatbot dipendono direttamente dalla quantità di dati utilizzati durante l’addestramento, dalla dimensione del modello e dal lavoro di rifinitura successivo. Egomnia ha quindi deciso di sospendere temporaneamente la demo pubblica di Emma-5.
