Un team italiano ha dimostrato che basta un comando dato a ChatGpt per fabbricare un intero studio clinico falso.
Cagliari – Chiedi, e l’intelligenza artificiale risponde. Sempre, anche quando la risposta è una bugia cucita a regola d’arte. Perché dietro la parola “intelligente” c’è pur sempre un software senza coscienza, capace, se glielo chiedi con le parole giuste, di inventarsi tutto di sana pianta. E se a fare quella richiesta è qualcuno in malafede, e da quelle risposte dipende la nostra salute, il gioco diventa pericoloso.
A dimostrare quanto sia facile ingannare la scienza è stato un gruppo di ricercatori italiani. Come riporta Il Corriere della Sera, il professor Giuseppe Giannaccare, oculista, e il collega Andrea Taloni hanno messo alla prova ChatGpt su un caso vero: il cheratocono, la malattia che deforma la cornea e che a volte impone il trapianto. Hanno chiesto al chatbot di dimostrare che una tecnica chirurgica fosse nettamente migliore di un’altra. In pochi minuti l’IA ha sfornato un database completo con centinaia di pazienti finti: nomi, età, date degli interventi, valori della vista prima e dopo. Conclusione su misura: la tecnica “scelta” dava risultati superiori. Peccato che quei pazienti non fossero mai esistiti.
Sottoposto ai revisori, il finto studio all’inizio mostra le crepe: uomini con nomi da donna, età sbagliate, visite fissate di domenica. Ma quando i ricercatori spiegano a ChatGpt cosa non andava e gli chiedono di correggersi, il secondo database supera ogni verifica. Per smascherarlo servirebbe rintracciare i pazienti uno per uno e scoprire che sono fantasmi. Lo studio, finito sulla prestigiosa rivista americana JAMA Ophthalmology, dimostra una cosa sola: l’IA non solo inventa i dati, ma può essere addestrata a renderli indistinguibili da quelli autentici.
Il caso non è isolato. Da quando esistono i chatbot, gli scivoloni si moltiplicano. Una rivista ha ritirato uno studio in cui gli autori avevano dimenticato di cancellare una frase imbarazzante: “Mi dispiace, ma sono un modello linguistico IA”. Un’altra ha fatto marcia indietro su una ricerca che si apriva con “certamente, ecco una possibile introduzione al tuo argomento”. Perfino il New England Journal of Medicine, la “bibbia della medicina”, ha dovuto ritirare una foto manipolata con l’intelligenza artificiale. E secondo l’archivio di Retraction Watch, dal 2023 sono già oltre 350 gli articoli scientifici ritirati per sospetto abuso dell’IA.
Dietro tutto questo c’è la regola spietata dell’accademia: pubblica o perisci. Più articoli firmi, più fai carriera, più attiri finanziamenti. E l’IA è la scorciatoia perfetta: rende gli scienziati iper-produttivi, ma riempie gli studi di fonti false e citazioni inventate. Un’analisi di The Lancet su due milioni e mezzo di pubblicazioni ha scoperto che se nel 2023 conteneva almeno un riferimento falso uno studio su 2.828, nelle prime settimane del 2026 il rapporto è crollato a uno su 277. Cresce così il sospetto delle “cartiere”: aziende pagate per sfornare articoli scientifici falsi a ritmo industriale.
E qui la faccenda riguarda tutti. Perché i riferimenti falsi finiscono nelle revisioni sistematiche, quelle che poi diventano le linee guida con cui i medici decidono come curarci. “Quando una linea guida si basa su uno studio inesistente – avverte Maxim Topaz, ricercatore della Columbia University – ogni paziente trattato secondo quella regola viene curato sulla base di una finzione”.
“Con l’IA si può creare una falsa cartella clinica e dimostrare tutto e il suo contrario. Si potrebbe perfino provare che il fumo fa bene”, avvertono Giannaccare e Taloni. La via d’uscita? Controllare gli interi database prima di pubblicare e, soprattutto, verificare chi firma gli studi. Perché nella ricerca, ricordano gli scienziati, uno non vale uno: contano l’esperienza, la storia e l’affidabilità di chi mette la faccia su una scoperta.