X

Tutti abbiamo visto quel video. Un villaggio nepalese sommerso dall’acqua del fiume Lende Khola, l’onda di fango che avanza inesorabile, la devastazione totale, le squadre di ricerca all’opera tra le macerie. Quelle immagini, in foto e in video, sono diventate rapidamente uno dei simboli della catastrofe che ha colpito il Nepal e il Tibet, testimonianza viscerale dei danni immani causati dallo scioglimento di un ghiacciaio. Per giorni abbiamo visto scorrere queste sequenze sugli schermi dei nostri telefoni, riempire i nostri feed, occupare le homepage di tutti i siti del mondo.

C’è solo un problema: queste immagini non sono vere. Quel villaggio non è mai esistito, almeno fino a quando qualcuno, da qualche parte, per qualche ragione non ha deciso di immettere nell’interfaccia di un’intelligenza artificiale generativa un prompt. E il risultato è stato talmente convincente da ingannare milioni di persone in tutto il mondo, creando una crisi nella crisi.

Per cercare di arginare il problema, il governo nepalese ha chiesto ufficialmente a Meta e TikTok di rimuovere tutti i video generati con l’intelligenza artificiale che ritraggono la catastrofe. Una richiesta che nasconde un’amara verità: le piattaforme ci mettono in media dalle 24 alle 48 ore per eliminare un singolo video falso. Tempo più che sufficiente perché il contenuto diventi virale, si replichi, venga scaricato e ricaricato da centinaia di account diversi. Per questo motivo, il direttore dell’Autorità nepalese per le telecomunicazioni ha chiesto una speciale deroga per accelerare i tempi di rimozione.

Ma il governo non si è fermato qui. È stata creata una task force di polizia esclusivamente dedicata alla caccia di questi contenuti e alla denuncia delle persone che li creano e diffondono. Una squadra speciale che scandaglia il web alla ricerca di video falsi mentre il paese affronta una delle peggiori emergenze umanitarie della sua storia recente. Un paradosso che dice molto sulla nuova natura delle catastrofi nell’era dell’intelligenza artificiale: non basta più soccorrere le vittime reali, bisogna anche combattere quelle virtuali.

Secondo quanto riporta The Straits Times, la polizia nepalese è attivamente a caccia dei responsabili di questa diffusione massiccia di disinformazione. Un compito titanico, considerando che i video falsi continuano a moltiplicarsi più velocemente di quanto possano essere rimossi. BBC Verify, l’unità di fact-checking della BBC, ha scelto proprio uno di questi video virali per spiegare al pubblico come riconoscere un contenuto generato dall’intelligenza artificiale. E ha individuato tre indizi fondamentali che chiunque può utilizzare.

Il primo indizio è la durata. Molti generatori di video AI producono sequenze che durano in media una decina di secondi. I video più lunghi vengono assemblati mettendo insieme più spezzoni, fatto che si traduce in transizioni brusche, cambi di scena repentini, finali affrettati. Un video corto non è necessariamente falso, ma un filmato spettacolare che si interrompe bruscamente proprio quando l’azione si complica dovrebbe far suonare un campanello d’allarme. Chiedetevi: perché qualcuno dovrebbe smettere di filmare proprio nel momento culminante di una catastrofe?

Il secondo indizio è la continuità. Nel video dell’inondazione in Nepal analizzato da BBC, edifici e alberi si materializzano letteralmente tra un fotogramma e l’altro, i veicoli svaniscono man mano che la ripresa avanza. Anche se un’inondazione è una delle più brutali manifestazioni del caos in cui ci si possa imbattere, tutte queste cose sono semplicemente impossibili nella realtà fisica. Gli oggetti non si materializzano e smaterializzano da un secondo all’altro, non nella nostra dimensione almeno.

Il terzo indizio è la fisica. Nei video generati dall’AI spesso si vedono moto stranamente grandi che restano in piedi mentre vengono trascinate via, rocce e detriti che si muovono in modo incoerente rispetto alla direzione e alla forza dell’acqua. L’acqua turbolenta è un vantaggio per chi genera questi contenuti, perché è già caotica di suo, ma anche una corrente impetuosa deve interagire in modo plausibile con ciò che tocca. La gravità, l’inerzia, l’attrito: sono leggi che l’AI fatica ancora a replicare perfettamente.

Vedere questi video a velocità normale rende quasi impossibile cogliere questi dettagli. BBC Verify consiglia sempre di mettere in pausa e scorrere il filmato fotogramma per fotogramma, proprio come farebbero gli investigatori forensi con un filmato sospetto. Quando i primi video generati dall’intelligenza artificiale hanno iniziato a circolare su internet, riconoscerli non era particolarmente difficile. Basti pensare all’ormai leggendario video di Will Smith che mangia un piatto di spaghetti: mani distorte con dita che si moltiplicavano, volti sfigurati, corpi che si deformavano in modi innaturali. Erano campanelli d’allarme immediati, errori talmente grossolani da rendere il contenuto più grottesco che ingannevole.

Ma le AI hanno imparato in fretta. Lo stesso identico video di Will Smith che mangia gli spaghetti è stato rigenerato più e più volte usando modelli di intelligenza artificiale più recenti, e la differenza è oggettivamente stupefacente. Le mani ora hanno cinque dita, i movimenti sono fluidi, le espressioni facciali credibili. Per scovare un video generato con l’AI oggi lo sguardo deve soffermarsi sullo sfondo, dove architettura, vegetazione e piccoli dettagli compaiono, spariscono, appaiono in maniera innaturale. È nei margini, nelle zone che la nostra attenzione solitamente ignora, che l’AI tradisce ancora le sue origini sintetiche.

Anche le filigrane e i metadati aiutano fino a un certo punto. La loro assenza non dimostra nulla, e molte piattaforme li rimuovono automaticamente in fase di caricamento e compressione. Non sono strumenti affidabili su cui costruire la propria capacità critica. Mentre il governo nepalese combatte questa battaglia su due fronti, le operazioni di soccorso al confine tra Nepal e Tibet stanno diventando sempre più difficili a causa della piena di un lago che si è formato dopo la frana che ha causato l’inondazione. Operazioni che erano già complesse per via delle infrastrutture distrutte e delle linee di comunicazione danneggiate.

Condividi.

Figlia degli anni 2000. Amante del cinema fin da quando vide Pride & Prejudice per la prima volta. Laureata in Lettere Moderne, continua a scrivere di cinema sperando di farlo per sempre.