Un paper con un punteggio di 8 su 10 — praticamente accettato per la pubblicazione — cita un articolo che non è mai stato scritto, attribuendolo ad autori che non esistono. Nessuno dei cinque revisori se ne accorge. Non è uno scenario distopico inventato per un editoriale catastrofista: è successo a ICLR 2026, una delle conferenze più prestigiose al mondo sull’intelligenza artificiale, con quasi 20.000 paper sottomessi quest’anno. E non è un caso isolato, ma la punta di un iceberg che sta emergendo con una velocità allarmante. La scorsa settimana The Lancet ha pubblicato uno studio che ha scandagliato 2,5 milioni di paper biomedici e 97,1 milioni di riferimenti bibliografici. Il risultato: nelle prime sette settimane del 2026, 1 paper su 277 indicizzati su PubMed contiene almeno una citazione completamente inventata — un riferimento a un articolo che non esiste, scritto da autori fantasma. Nel 2023 il rapporto era 1 su 2.828. Un aumento di dodici volte in meno di tre anni, e la curva non mostra segni di rallentamento. Il team di ricerca guidato da Maxim Topaz alla Columbia University ha trovato 4.406 citazioni fantasma distribuite in 2.810 articoli. Il dato più sconcertante? Il 98% di quei paper è ancora lì, pubblicato e accessibile, senza che nessun editore abbia preso provvedimenti.
Il nocciolo della questione non è tecnico — è politico. Le allucinazioni dell’AI nella ricerca scientifica non sono un bug da correggere con il prossimo aggiornamento del modello: sono il sintomo di un sistema che ha trasformato la conoscenza in merce e la pubblicazione in una catena di montaggio. Chi trae vantaggio da paper con dati falsi che nessuno verifica? Chi paga il prezzo quando un articolo fraudolento finisce in una meta-analisi che informa un protocollo clinico? Il sistema della pubblicazione accademica è un’industria multimiliardaria costruita sullo sfruttamento del lavoro gratuito dei ricercatori e dei revisori, gestita da oligopoli editoriali che incassano margini di profitto superiori al 35%. L’intelligenza artificiale generativa non ha creato questa crisi — l’ha accelerata fino a renderla impossibile da ignorare. La domanda vera, quella che nessuno degli attori in gioco ha voglia di porsi, è se esista la volontà politica di fermarla, o se il business sia troppo redditizio per cambiare.
Citazioni fantasma: la fabbrica dei dati che non esistono
GPTZero ha scandagliato 300 delle circa 20.000 submission a ICLR 2026 e ne ha trovate 50 con almeno una citazione allucinata — un tasso del 16,7% nel campione analizzato. Proiettato sull’intero pool di submission, parliamo potenzialmente di centinaia di paper con bibliografie in parte inventate che avrebbero superato la revisione senza che nessuno battesse ciglio. Il dettaglio più inquietante riguarda la qualità dei paper incriminati. «TamperTok: Forensics-Driven…» aveva ricevuto un punteggio di 8 su 10 — la soglia che di norma garantisce l’accettazione — e citava un articolo reale attribuendolo ad autori completamente diversi da quelli veri. «MixtureVitae: Open Web-Scale…» elencava 10 autori per una fonte: 7 di loro non esistono, sono nomi generati da un modello statistico e inseriti in una bibliografia con la stessa disinvoltura con cui un LLM sforna una ricetta. «Principled Policy Optimization for LLMs» aveva inventato tutti gli autori di una citazione tranne il primo. Tre pattern distinti di allucinazione bibliografica — autori fabbricati, metadati manipolati e citazioni completamente inventate — e in ciascun caso i revisori esperti, da 3 a 5 per paper, non avevano notato nulla. Zero segnalazioni su decine di riferimenti falsi.
Lo studio pubblicato su The Lancet il 7 maggio 2026 conferma che la contaminazione va ben oltre le conferenze di informatica. Il team guidato da Topaz, affiancato dal sociologo della scienza Misha Teplitskiy dell’University of Michigan e dall’esperto di integrità della ricerca Mohammad Hosseini della Northwestern University, ha analizzato l’intera letteratura biomedica indicizzata su PubMed degli ultimi tre anni. Il 91% dei paper problematici conteneva solo una o due citazioni false — un dettaglio che rende il rilevamento estremamente difficile, perché il resto della bibliografia appare legittimo e l’anomalia si dissolve nel volume. Gli articoli di review mostravano un tasso di fabricazione del 57% superiore rispetto ad altri tipi di pubblicazione, il che ha una logica perversa: le review sintetizzano decine o centinaia di fonti, e i modelli linguistici tendono a «completare» le bibliografie con riferimenti plausibili ma inesistenti quando la memoria del contesto non è sufficiente. L’accelerazione più brusca è avvenuta a metà del 2024, esattamente quando gli assistenti AI sono passati da curiosità tecnologica a strumento di lavoro quotidiano nei laboratori di mezzo mondo. Come ha commentato Teplitskiy senza mezzi termini: «La domanda è se l’AI rende la scienza più efficiente o se crea spazzatura. Questo segnale indica spazzatura.» Howard Bauchner e Frederick Rivara, ex direttori di JAMA, sono stati ancora più netti: i paper con citazioni allucinati «dovrebbero essere ritirati, punto». Topaz la pensa diversamente — per quelli con errori incidentali, «la correzione e la trasparenza possono essere più proporzionate» — ma il fatto che il dibattito verta su come gestire la spazzatura anziché su come prevenirla rivela dove stanno davvero le priorità del sistema.
Il caso della bixonimania è la dimostrazione più grottesca — e più istruttiva — di questa spirale. Almira Osmanovic Thunström, ricercatrice all’Università di Göteborg in Svezia, ha progettato nel 2024 un esperimento elegante nella sua semplicità: ha pubblicato su un server preprint un paper che descriveva una malattia oculare completamente inventata. Il nome era volutamente assurdo — «bixonimania», con il suffisso -mania che in medicina si usa esclusivamente in psichiatria — l’università di affiliazione non esiste (Asteria Horizon University, Nova City, California, una città fantasma) e gli autori sono fittizi. Ogni essere umano con un briciolo di attenzione critica avrebbe colto i segnali. ChatGPT, Gemini e Copilot no: hanno iniziato a diagnosticare la bixonimania come condizione medica reale, raccomandando ai pazienti di consultare uno specialista. Il colpo di grazia è arrivato dall’India, dove tre ricercatori del Maharishi Markandeshwar Institute of Medical Sciences hanno citato i preprint sulla bixonimania come fonti legittime in un articolo pubblicato su Cureus — una rivista peer-reviewed del gruppo Springer Nature. Quel paper è stato ritirato solo quando l’esperimento è diventato pubblico, ma la lezione resta lì, scolpita nella pietra: una malattia inventata con indizi evidenti della sua falsità è entrata nella letteratura scientifica ufficiale perché nessuno — né i chatbot, né i revisori, né gli editori — si è preso la briga di verificare. Come abbiamo già analizzato parlando di allucinazioni AI che fabbricano disinformazione, il problema non è mai l’errore singolo: è il sistema che lo amplifica senza filtri e senza responsabilità. Un ricercatore che ha studiato il comportamento dei LLM in contesti medici ha scoperto un dettaglio agghiacciante: i modelli allucinano di più quando il testo ha un aspetto professionale e autorevole. Più il falso sembra credibile, più la macchina lo tratta come vero.
A confermare la scala del problema ci sono i dati della Deakin University australiana, che ha misurato l’affidabilità di GPT-4o nella generazione di citazioni accademiche. Il risultato è un bollettino di guerra: una citazione su cinque è completamente inventata, e il 56% del totale contiene errori o è falso. Non «impreciso» — falso. Se consideri che milioni di ricercatori in tutto il mondo usano questi strumenti quotidianamente per scrivere paper, bozze di revisioni, proposte di finanziamento e domande di grant, la portata della contaminazione diventa vertiginosa. Non si tratta di qualche svista marginale in un campo di nicchia: è un’infezione sistemica che sta corrodendo le fondamenta su cui costruiamo la conoscenza scientifica, e la velocità con cui si diffonde è direttamente proporzionale alla velocità con cui i laboratori adottano l’AI come scorciatoia per produrre di più, più in fretta, con meno fatica umana.
La peer review è morta, e l’AI l’ha seppellita
Se pensavi che il sistema di revisione paritaria potesse almeno fungere da argine — l’ultimo filtro prima della pubblicazione — i numeri di ICLR 2026 ti tolgono ogni illusione. Pangram Labs, guidata da Max Spero, ha analizzato tutte le submission alla conferenza in meno di dodici ore e il quadro che ne emerge è devastante: il 21% delle peer review — 15.899 su 75.800 — era interamente generato dall’intelligenza artificiale. Più della metà di tutte le revisioni mostrava segni evidenti di utilizzo di modelli linguistici. Graham Neubig della Carnegie Mellon University ha descritto le review sospette come «molto verbose, piene di elenchi puntati» con richieste di analisi non standard — il linguaggio inconfondibile di un LLM che simula competenza senza possederne un grammo. Desmond Elliott dell’Università di Copenaghen ha raccontato un’esperienza che farebbe ridere se non fosse tragica: una review flaggata come AI-generated aveva assegnato il punteggio più basso al suo paper, lasciandolo «sul confine tra accettazione e rigetto». La carriera di un ricercatore — anni di lavoro, finanziamenti, reputazione — appesa al giudizio di un chatbot, e nessuno nella stanza se ne sarebbe accorto senza l’intervento di un detector esterno. Bharath Hariharan della Cornell University, senior programme chair della conferenza, ha annunciato che ICLR implementerà strumenti di rilevamento automatico per le prossime edizioni. Un cerotto su un’emorragia, quando il problema è la pressione arteriosa dell’intero sistema.
Il paradosso è circolare e perfetto nella sua perversione. I ricercatori usano l’AI per scrivere paper con citazioni inventate. Poi altri ricercatori — o direttamente le macchine — usano l’AI per fare le review di quei paper. Il risultato è un circuito chiuso dove i modelli linguistici parlano con altri modelli linguistici e la scienza umana viene ridotta a rumore di fondo. Non è una provocazione teorica: un paper completamente generato dall’intelligenza artificiale — dall’idea di ricerca al codice, dagli esperimenti all’analisi dei dati, fino al manoscritto completo — è già passato attraverso la peer review in un workshop di una conferenza importante di machine learning, ottenendo l’accettazione. La peer review stessa era stata condotta dall’AI. Il serpente si morde la coda, e nessuno degli attori in gioco ha un incentivo strutturale a spezzare il cerchio. I revisori umani sono sommersi dal volume crescente di submission — a ICLR sono aumentate del 70% in un solo anno, arrivando a quasi 20.000 — e delegano il lavoro sporco alla macchina. I ricercatori sotto pressione delegano la scrittura. Gli editori e le conferenze incassano le quote di sottomissione senza farsi troppe domande. L’effetto è quello che i ricercatori chiamano «hivemind» — un’omologazione delle valutazioni che elimina la diversità di prospettive, lo stesso meccanismo di appiattimento linguistico e cognitivo che i LLM producono ovunque li si applichi. Un sondaggio su 1.600 accademici pubblicato da Nature ha confermato che oltre il 50% dei ricercatori ha usato strumenti AI durante la peer review, spesso violando le linee guida delle riviste. E gli strumenti di rilevamento? Falliscono nell’identificare la maggior parte delle review AI-generated, avvertono i ricercatori — il problema peggiora con ogni nuova generazione di modelli.
Dentro questo vuoto si sono infilate le paper mill — fabbriche industriali di articoli accademici che vendono manoscritti chiavi in mano a ricercatori sotto la pressione del publish or perish, la legge non scritta dell’accademia che impone di pubblicare per conservare il posto, ottenere finanziamenti, avanzare nella gerarchia. Uno studio pubblicato su PNAS ha mappato l’ecosistema della frode organizzata e i numeri tolgono il fiato: oltre 32.700 paper sospetti collegati a reti strutturate, con un tasso di crescita che supera quello dell’intera produzione scientifica legittima. I paper fraudolenti crescono più velocemente della scienza vera. Solo il 28,7% di quelli identificati è stato ritirato, e le stime indicano che al massimo il 25% lo sarà mai — il restante 75% rimarrà nella letteratura, citato, utilizzato, incorporato in meta-analisi e linee guida cliniche. Il ricercatore Reese Richardson ha formulato una proiezione che dovrebbe far tremare chiunque si fidi della scienza pubblicata: entro un decennio, più della metà degli studi pubblicati ogni anno potrebbe essere fraudolenta. L’AI generativa ha trasformato le paper mill da artigianato della truffa a industria di scala: oggi sfornano manoscritti completi — introduzioni AI-generated, dati fabbricati, figure standardizzate da pipeline automatiche, bibliografie allucinanti — a una frazione del costo precedente. In un caso estremo documentato nello studio su The Lancet, un singolo paper aveva 18 citazioni false su 30. Il sessanta per cento della sua bibliografia puntava al vuoto.
Chi controlla la conoscenza controlla il potere
Facciamo un passo indietro dal dettaglio tecnico e guardiamo il quadro d’insieme, perché questa storia non è solo accademica — è profondamente politica. Cinque oligopoli editoriali — Elsevier, Springer Nature, Wiley, Taylor & Francis, SAGE — controllano oltre il 50% di tutti i paper scientifici pubblicati nel mondo. Elsevier da sola supera regolarmente il 35% di margine di profitto netto, numeri che farebbero invidia a Google. Il modello è estrattivo nella sua forma più pura: i ricercatori producono il contenuto gratuitamente (pagati dalle università, non dagli editori), lo revisionano gratuitamente, e poi le loro stesse istituzioni sborsano migliaia di euro l’anno per accedere al risultato del loro stesso lavoro. L’accesso alla conoscenza è razionato in base alla capacità di pagare. Questi paper — quelli veri e quelli falsi, ormai mescolati in un magma sempre più indistinguibile — informano le politiche sanitarie, le normative ambientali, le strategie militari, le decisioni che toccano la vita di miliardi di persone. Quando la base di evidenze scientifiche viene inquinata da paper AI-generated e nessuno ha le risorse per verificarli — perché la verifica costa tempo, competenza e denaro che il sistema non remunera — il risultato è un’erosione sistematica della capacità collettiva di distinguere il vero dal falso. L’Università di Witwatersrand in Sudafrica ha documentato un caso emblematico: policy governative sull’intelligenza artificiale basate su ricerche che si sono rivelate fraudolente. La scienza falsa non resta confinata nei database accademici — filtra nelle linee guida cliniche, nei protocolli ospedalieri, nelle decisioni terapeutiche che riguardano te, la tua famiglia, tutti. Come abbiamo analizzato nel dettaglio parlando di AI e medicina, la promessa della tecnologia applicata alla ricerca si scontra con un sistema che non ha più anticorpi — e non perché manchino gli strumenti, ma perché manca la volontà di usarli.
Le alternative dal basso esistono, ma richiedono un ripensamento radicale che nessuno dei beneficiari dell’attuale sistema ha interesse a promuovere. L’open access reale — non quello predatorio che chiede 3.000-5.000 euro agli autori per pubblicare, spostando il paywall dal lettore allo scrittore — è un punto di partenza, ma non basta da solo se non cambia la struttura degli incentivi. La revisione paritaria aperta e firmata, dove ogni review è pubblica con nome e cognome del revisore, renderebbe molto più difficile delegare il giudizio a un chatbot: ci sarebbe una responsabilità personale tracciabile, e l’anonimato non fungerebbe più da copertura per la pigrizia o la frode. I preprint server come arXiv e bioRxiv hanno dimostrato che la distribuzione della conoscenza non ha bisogno degli editori tradizionali come intermediari — ma servono strumenti di verifica automatica delle citazioni integrati nel processo di pubblicazione dall’inizio, non aggiunti come toppa quando ormai i buoi sono scappati. Strumenti come quelli sviluppati da GPTZero esistono e funzionano, ma devono diventare infrastruttura pubblica, non iniziativa privata. Serve soprattutto — e qui il discorso si fa scomodo per tutti — smettere di misurare il valore di un ricercatore dal numero di paper sfornati e dall’h-index. Finché l’unico metro è la quantità, la frode sarà l’opzione economicamente razionale per chi è schiacciato dalla precarietà accademica, dai contratti a termine, dalla competizione per finanziamenti sempre più scarsi. Cambiare quel metro significherebbe mettere in discussione il modello di business degli editori accademici, il sistema dei ranking universitari, la logica stessa della produttività scientifica come la conosciamo. Nell’attuale assetto di potere, dove le case editrici hanno più influenza lobbistica dei ricercatori che producono il lavoro, resta il tabù più grande della scienza contemporanea.
La scienza non è un tempio sacro e intoccabile — è un’attività umana, con le sue strutture di potere, i suoi incentivi perversi e le sue fragilità strutturali. L’intelligenza artificiale generativa non ha inventato la frode accademica: l’ha industrializzata, rendendola accessibile a chiunque abbia un abbonamento a ChatGPT e la pressione di un comitato di valutazione alle spalle. Il sistema che dovrebbe proteggere l’integrità della ricerca — la peer review, gli editori, le istituzioni — è troppo compromesso dai propri interessi economici per fare da argine efficace. Il vero antidoto non è un AI detector più sofisticato, un watermark nei testi generati o un nuovo comitato etico con poteri consultivi e nessun potere reale. È un sistema scientifico costruito sulla cooperazione anziché sulla competizione cieca, sulla trasparenza anziché sugli paywall, sul libero accesso alla conoscenza anziché sulla sua mercificazione. Un sistema che non ha bisogno di fabbriche di paper perché non costringe nessuno a pubblicare per sopravvivere. Fino a quel giorno — e non illuderti che sia vicino — ogni paper che leggi potrebbe essere stato scritto da una macchina che non ha capito nulla di quello che ha prodotto. E il revisore che l’ha approvato potrebbe essere un’altra macchina. Buona lettura.