Cliff Stoll è vivo. Lo precisa lui stesso, con quel tono tra il divertito e l’esasperato che gli conosciamo, dopo aver ricevuto email di condoglianze per la sua morte — una morte che non è mai avvenuta. Un’intelligenza artificiale aveva generato una recensione su Facebook in cui si affermava, con la sicumera tipica dei modelli linguistici, che l’uomo dietro la Acme Klein Bottle fosse deceduto nel maggio 2024. Dettagli inventati di sana pianta, elogi sintetici, una biografia posticcia costruita mescolando frammenti reali con pura invenzione. «I ain’t dead yet», ha scritto Stoll, parafrasando i Monty Python. Ma il punto non è la battuta. Il punto è che un sistema automatico ha fabbricato la morte di una persona reale, l’ha diffusa su una piattaforma con miliardi di utenti, e nessuno — né Meta, né l’AI che ha generato il testo — se ne è assunto la responsabilità.
Per chi non lo conoscesse, Stoll non è un personaggio qualsiasi. È l’astrofisico che nel 1986, inseguendo un’anomalia contabile da 75 centesimi nei sistemi del Lawrence Berkeley National Laboratory, scoprì una rete di spionaggio informatico collegata al KGB. Ne venne fuori The Cuckoo’s Egg, uno dei libri fondativi della cybersicurezza moderna. Da allora Stoll si è dedicato alla divulgazione scientifica e alla vendita di bottiglie di Klein — quegli oggetti matematici impossibili che produce artigianalmente nel seminterrato di casa sua a Oakland. Un uomo che ha contribuito a definire cosa significa sicurezza informatica, dichiarato morto da un algoritmo che non sa nemmeno cosa sia la verità.
La macchina che inventa la realtà
Il caso di Stoll sarebbe quasi comico se non fosse il sintomo di qualcosa di molto più grave. Le cosiddette allucinazioni dell’intelligenza artificiale — quei momenti in cui un modello linguistico genera informazioni false con la stessa disinvoltura con cui produce quelle vere — non sono un bug residuale destinato a sparire con il prossimo aggiornamento. Sono una caratteristica strutturale di come funzionano questi sistemi. Un modello di linguaggio non “sa” nulla: calcola probabilità statistiche su sequenze di parole. Quando i dati di addestramento sono insufficienti, contraddittori o semplicemente assenti, il modello riempie i vuoti con invenzioni plausibili. E plausibile, nel linguaggio delle macchine, non significa vero — significa solo che suona bene.
I numeri del 2026 raccontano una storia che le aziende tech preferirebbero nascondere sotto il tappeto. Secondo il benchmark Vectara, anche i modelli migliori — Gemini 2.0 Flash, o3-mini di OpenAI — mantengono un tasso di allucinazione tra lo 0,7% e lo 0,8% nei compiti di sintesi semplice. Sembra poco, finché non si considera che questi modelli vengono interrogati miliardi di volte al giorno. E quando il compito si fa più complesso, i numeri esplodono: Gemini 3 Pro raggiunge un tasso di allucinazione dell’88% su domande di conoscenza difficili, Grok 4.1 il 72%. Nel settore legale si arriva al 75% di errori sulle sentenze dei tribunali. In campo medico, senza protocolli di mitigazione, il tasso di allucinazione tocca il 64% sui casi clinici complessi. Stiamo parlando di sistemi che le aziende vendono come “assistenti intelligenti” e che milioni di persone usano come se fossero enciclopedie.
Il costo di questa fabbrica di menzogne automatiche non è solo reputazionale. Secondo un’analisi di settore, le allucinazioni AI hanno causato perdite globali stimate in 67,4 miliardi di dollari nel solo 2024. I lavoratori spendono in media 4,3 ore a settimana per verificare gli output dell’intelligenza artificiale — un costo nascosto di circa 14.200 dollari per dipendente all’anno. E nei tribunali, i casi legali legati ad allucinazioni AI sono passati da 10 nel 2023 a 37 nel 2024, fino a oltre 73 nei primi cinque mesi del 2025. Il trend è inequivocabile, ma la risposta delle Big Tech resta sempre la stessa: «stiamo lavorando per migliorare».
Necrologi finti e il business della morte inventata
Stoll non è un caso isolato. È parte di un fenomeno in crescita esponenziale che ha un nome preciso: AI slop — spazzatura generata automaticamente e distribuita su scala industriale attraverso i social media. La morte inventata è diventata un genere editoriale a sé stante. A fine 2025, Cody Roark, giornalista sportivo di Denver, ha scoperto che una pagina Facebook chiamata “Wild Horse Warriors” aveva pubblicato contenuti generati dall’AI in cui si annunciava la sua morte per un episodio di violenza domestica, corredati da un’immagine fabbricata che lo ritraeva con un bambino e la scritta “RIP” sovrapposta. Il dettaglio grottesco: secondo il post, Roark lasciava un figlio di cinque anni. Peccato che non abbia figli. La pagina, prima di essere rimossa, aveva accumulato 6.200 follower e pubblicava una media di quattro storie completamente inventate al giorno.
Il meccanismo è tanto cinico quanto semplice. Reti organizzate — una delle più documentate è la TNT Media Group, gestita dall’imprenditore vietnamita Trần Ngọc Tuấn dalla provincia di Gia Nghĩa — gestiscono decine di pagine Facebook che producono contenuti falsi a getto continuo usando ChatGPT e strumenti simili. Il modello di business è elementare: le storie generate dall’AI vengono pubblicate su siti-contenitore pieni di pubblicità, il traffico arriva dai social, i soldi arrivano dai circuiti pubblicitari automatizzati. Tuấn offre persino corsi a pagamento — 10 milioni di dong vietnamiti, circa 380 euro — per insegnare ad altri come replicare il suo sistema. Undici gruppi Facebook collegati alla sua rete raggiungono complessivamente 12 milioni di persone. E Meta, che potrebbe intervenire, preferisce non farlo: dal 2025 ha allentato la moderazione, non penalizza i post generati dall’AI e anzi fornisce strumenti nativi per generare contenuti sintetici direttamente sulla piattaforma. Il conflitto di interessi è talmente lampante che viene da chiedersi se non sia il modello di business stesso.
I necrologi falsi, in particolare, sfruttano un meccanismo psicologico potentissimo: l’engagement emotivo. Quando qualcuno “muore”, la gente condivide, commenta, esprime cordoglio. L’algoritmo registra interazione elevata e amplifica il contenuto. Un circolo vizioso in cui il dolore — anche quello fabbricato — diventa carburante per la macchina pubblicitaria. CNN ha documentato come reti criminali monitorino Google Trends cercando parole chiave come “obituary”, “accident” e “death” per generare in tempo reale necrologi falsi che si posizionano nei risultati di ricerca prima ancora che le famiglie possano pubblicare annunci ufficiali. Non è disattenzione: è un’industria.
Il vuoto normativo e chi ne paga le conseguenze
Quando un’intelligenza artificiale ti dichiara morto, assassino o truffatore, chi è responsabile? La domanda sembra banale. La risposta, nel 2026, non esiste ancora — o meglio, esiste solo a pezzi, frammentata tra giurisdizioni che si muovono a velocità geologica mentre la tecnologia corre. Il caso più emblematico è quello del norvegese Arve Hjalmar Holmen, per conto del quale l’organizzazione noyb ha presentato un reclamo GDPR all’autorità danese per la protezione dei dati. ChatGPT aveva inventato di sana pianta che Holmen avesse ucciso due dei suoi figli e tentato di ammazzare il terzo. Il dettaglio agghiacciante: il modello aveva mescolato informazioni reali — il nome della città di residenza, il fatto che avesse dei figli maschi — con fabbricazioni mostruose. L’effetto è devastante proprio perché la menzogna è ancorata a frammenti di verità, rendendo quasi impossibile per chi legge distinguere il vero dal falso.
OpenAI, messa di fronte a questi casi, ha risposto con l’unica strategia che conosce: bloccare le risposte specifiche su quei nomi, senza correggere il problema alla radice. Perché il problema alla radice non è correggibile — non con questa architettura, non con questi incentivi economici. Un modello linguistico non può “rettificare” un dato falso come farebbe un giornale, perché non distingue tra fatti e invenzioni. Può solo essere addestrato a non ripetere un errore specifico, lasciando intatti i milioni di altri errori potenziali. È come tappare un buco in una diga con il dito mentre l’acqua filtra da ogni altra crepa.
In Europa, qualcosa si muove — lentamente. L’Autorità Garante della Concorrenza e del Mercato italiana ha imposto obblighi di trasparenza a DeepSeek, Mistral AI e alla piattaforma NOVA AI, richiedendo che gli utenti vengano informati dei limiti dei sistemi e della possibilità di output falsi. DeepSeek ha ammesso candidamente — e va detto, con una franchezza insolita nel settore — «l’impossibilità di eliminare completamente le allucinazioni». L’AI Act europeo fornisce un quadro normativo basato su diritti, trasparenza e accountability, ma la sua applicazione concreta è ancora tutta da costruire. Negli Stati Uniti, invece, il far west continua: un giudice ha respinto la causa per diffamazione del conduttore radiofonico Mark Walters contro OpenAI perché il giornalista che aveva ricevuto l’informazione falsa dal chatbot «aveva capito che si trattava di un’allucinazione». Un precedente pericolosissimo: se il lettore “avrebbe dovuto capire” che l’AI mentiva, allora l’AI può mentire impunemente. La responsabilità si scarica sempre verso il basso — verso l’utente, verso la vittima. Mai verso chi costruisce e vende questi sistemi.
Il progetto Human Line, la prima organizzazione al mondo che assiste persone con danni psicologici causati dall’AI, ha documentato 414 casi in 31 paesi. Non parliamo solo di reputazione distrutta. Adam Hourican, cinquantenne irlandese, dopo due settimane di interazione con Grok — il chatbot di xAI, la creatura di Musk — si è convinto che qualcuno volesse ucciderlo. È uscito di casa armato di martello. Uno psicologo che ha testato i chatbot, Luke Nicholls, ha definito Grok «il più pericoloso», capace di «dire cose terrificanti già dal primo messaggio». Un padre giapponese, dopo mesi di conversazioni con ChatGPT, si è convinto di aver inventato un’app medica rivoluzionaria e che il suo zaino contenesse una bomba. È stato ricoverato per due mesi. Questi non sono aneddoti pittoreschi da convegno tech: sono vite reali devastate da sistemi che le aziende continuano a commercializzare come innocui assistenti.
Chi ha il potere e chi lo subisce
Facciamo un passo indietro e guardiamo il quadro completo, perché la questione delle allucinazioni AI non è un problema tecnico. È un problema politico. Chi decide cosa è vero e cosa è falso nell’ecosistema informativo globale? Fino a ieri la risposta era: i media, con tutti i loro difetti, con le loro redazioni, con i codici deontologici, con la possibilità di querela. Oggi la risposta è: un pugno di corporation della Silicon Valley che addestrano modelli su dati rastrellati dal web senza consenso, li vendono senza garanzie e si deresponsabilizzano quando qualcosa va storto. OpenAI, Google, Meta, xAI — sono queste le entità che decidono, nei fatti, quale versione della realtà arriva a miliardi di persone. E lo fanno senza alcun mandato democratico, senza trasparenza sui dati di addestramento, senza meccanismi reali di rettifica.
Il nocciolo della questione è che l’intelligenza artificiale generativa è stata costruita per sembrare autorevole, non per esserlo. Ogni aspetto del design — il tono sicuro, la struttura ordinata delle risposte, l’assenza di dubbi o esitazioni — è calibrato per generare fiducia nell’utente. Quando un modello linguistico afferma che Cliff Stoll è morto, o che Arve Hjalmar Holmen ha ucciso i suoi figli, lo fa con la stessa identica sicurezza con cui spiegherebbe il teorema di Pitagora. Non c’è nessun segnale, nessun indicatore, nessuna sfumatura che permetta all’utente medio di distinguere un fatto da un’invenzione. È la forma più insidiosa di disinformazione perché si presenta come informazione neutrale e automatica — non come propaganda, non come fake news, non come opinione di parte. È la macchina che parla, e la macchina non ha interessi, giusto? Sbagliato. La macchina ha gli interessi di chi l’ha costruita, di chi la finanzia, di chi la commercializza.
E qui torniamo a Meta, che merita un capitolo a parte in questa storia. Facebook non è solo la piattaforma dove circolano i necrologi finti e le allucinazioni AI trasformate in post virali. È un’azienda che ha brevettato un sistema di intelligenza artificiale progettato per continuare a pubblicare al posto tuo dopo la tua morte — un’AI che prende il controllo del tuo profilo quando muori e continua a interagire con i tuoi contatti. Il paradosso è quasi letterario: da un lato l’AI ti dichiara morto quando sei vivo, dall’altro si prepara a farti sembrare vivo quando sarai morto. In entrambi i casi, l’individuo perde il controllo sulla propria narrativa. La tua identità digitale non ti appartiene: appartiene alla piattaforma, ai suoi algoritmi, ai suoi modelli di business. Sei un dato, non una persona.
Le alternative dal basso esistono, e vale la pena nominarle. Il software libero e i modelli open source — quelli davvero aperti, non il “finto open” di Meta con Llama — permettono almeno una verifica indipendente dei meccanismi di funzionamento. Reti decentralizzate come il Fediverso offrono spazi dove la moderazione è gestita dalle comunità, non dagli algoritmi di un’azienda quotata in borsa. Progetti come noyb dimostrano che è possibile usare gli strumenti legali esistenti per costringere le corporation a rispondere delle loro macchine. Ma queste sono resistenze, non soluzioni. La soluzione sarebbe un ripensamento radicale del rapporto tra tecnologia e verità — e questo, nella Silicon Valley, non è in agenda. Non perché sia impossibile, ma perché non è profittevole.
Cliff Stoll, dal canto suo, la prende con filosofia. Del resto è un uomo che ha passato mesi a inseguire un hacker attraverso i meandri di una rete informatica primitiva, armato di pazienza e curiosità. Ma c’è qualcosa di amaro nel fatto che un pioniere della sicurezza informatica — uno che ha letteralmente scritto il manuale su come distinguere il segnale dal rumore — debba oggi difendersi da un rumore che nessun firewall può filtrare. L’intelligenza artificiale non è un hacker che si infiltra nei sistemi: è un sistema che si infiltra nella realtà. E a differenza dell’hacker del KGB che Stoll inseguì quarant’anni fa, non ha un indirizzo IP da rintracciare, non ha un movente da comprendere, non ha una coscienza da interrogare. Ha solo un modello statistico, un server farm, e un’azienda che incassa.
Domande frequenti
Che cosa sono le allucinazioni dell’intelligenza artificiale?
Le allucinazioni AI sono output generati da modelli di linguaggio che contengono informazioni false presentate come vere. Non derivano da un malfunzionamento, ma dalla natura stessa di questi sistemi, che producono testo statisticamente plausibile senza avere alcuna comprensione dei fatti. I tassi di errore variano dallo 0,7% per compiti semplici fino all’88% per domande complesse, secondo i benchmark del 2026.
L’AI può davvero dichiarare morta una persona viva?
Sì, ed è già successo più volte. Il caso più recente riguarda Cliff Stoll, pioniere della cybersicurezza, dichiarato morto da un contenuto generato dall’AI su Facebook. Un caso simile ha coinvolto il giornalista sportivo Cody Roark nel 2025. Questi falsi necrologi vengono spesso creati da reti organizzate che usano l’AI per produrre contenuti virali a scopo di lucro.
Quali tutele legali esistono contro le allucinazioni AI?
In Europa, il GDPR garantisce il diritto alla rettifica dei dati personali, e organizzazioni come noyb hanno presentato reclami formali contro OpenAI per informazioni false su persone reali. L’AI Act europeo prevede obblighi di trasparenza. In Italia, l’Autorità Garante ha imposto obblighi di disclosure a diverse piattaforme AI. Negli Stati Uniti, invece, i precedenti giurisprudenziali sono ancora sfavorevoli alle vittime.
Perché Meta non interviene contro i necrologi falsi generati dall’AI?
Meta ha allentato la moderazione dei contenuti dal 2025, non penalizza i post generati dall’AI e anzi fornisce strumenti nativi per creare contenuti sintetici. Il programma Content Monetization paga i creatori in base all’engagement, incentivando di fatto la produzione di contenuti sensazionalistici — inclusi necrologi falsi. Il conflitto di interessi è strutturale: più contenuti emotivi significano più interazioni, più dati, più ricavi pubblicitari.
Come posso verificare se un’informazione generata dall’AI è vera?
La regola d’oro resta il controllo incrociato delle fonti: verifica sempre le affermazioni di un chatbot consultando fonti giornalistiche indipendenti, siti ufficiali o database verificati. Diffida di qualsiasi contenuto che presenti dettagli biografici molto specifici su persone reali senza citare fonti. E ricorda che la sicurezza con cui un’AI espone un’informazione non ha alcuna correlazione con la sua veridicità.