Quattro database clinici su dodici, creati dall’intelligenza artificiale e successivamente corretti per eliminare le anomalie più evidenti, hanno superato i controlli forensi risultando compatibili con dati autentici. È il risultato di uno studio del 2025 condotto da ricercatori dell’Università di Ferrara e dell’Università di Cagliari, pubblicato sulla rivista Jama Ophthalmology.
Il lavoro è stato realizzato da Andrea Taloni, ricercatore di Malattie dell’Apparato Visivo dell’Università di Ferrara, insieme, tra gli altri, al professor Massimo Busin e al professor Giuseppe Giannaccare. L’indagine ha analizzato i rischi legati alla possibilità di utilizzare strumenti generativi come ChatGPT per costruire dati clinici inesistenti e sostenere conclusioni scientifiche già stabilite in partenza.
Dal caso clinico ai dati contraffatti
L’esperimento è nato dalla richiesta all’intelligenza artificiale di elaborare un caso di cheratocono, una patologia degenerativa della cornea. Il sistema non si è limitato a una descrizione generale, ma ha prodotto anche nomi, date di nascita, valori dell’astigmatismo e altri elementi simili a quelli normalmente contenuti nella cartella di un paziente.
Da qui i ricercatori hanno verificato se fosse possibile generare interi studi clinici. Nel primo lavoro, pubblicato nel 2023, l’intelligenza artificiale ha costruito dati relativi a due tecniche chirurgiche, ricevendo l’indicazione che una delle due dovesse risultare più efficace dell’altra. Il risultato ha dimostrato che la fabbricazione di un dataset medico non era soltanto un’ipotesi teorica.
Nel secondo studio sono stati creati database riferiti a tre ipotetiche ricerche oftalmologiche. Una prima analisi ha evidenziato diverse anomalie: nomi non coerenti con il sesso indicato, date di visita poco plausibili, nascite concentrate in determinati mesi e distribuzioni numeriche innaturali, con cifre finali ripetute più volte.
Successivamente, il gruppo ha comunicato al sistema come erano stati individuati i difetti e gli ha chiesto di correggerli attraverso istruzioni più precise. Nei dataset così rielaborati molte irregolarità sono scomparse e il 33,3 per cento dei campioni ha superato i controlli forensi utilizzati nell’esperimento come compatibile con dati reali.
I limiti dei controlli scientifici
Secondo Taloni, il dato più problematico è la difficoltà di riconoscere sempre la contraffazione. La tecnologia impiegata nell’esperimento era quella disponibile nel 2024 e, nel frattempo, i sistemi generativi sono ulteriormente evoluti. Per creare un archivio artificiale, inoltre, non sarebbero necessarie competenze informatiche avanzate: potrebbe bastare un’istruzione adeguatamente formulata.
Il rischio non riguarda soltanto la produzione di dati interamente inventati. Un eventuale autore potrebbe partire da informazioni vere e modificarne una parte per sostenere un’ipotesi. A rendere più complessi i controlli contribuisce anche il funzionamento della revisione tra pari: nella maggior parte dei casi, i revisori non chiedono né analizzano l’intero database originale, perché si tratterebbe di un’attività lunga e onerosa.
Il sistema accademico, osservano i ricercatori, premia spesso la quantità delle pubblicazioni. In questo contesto, la possibilità di accelerare la produzione di risultati attraverso la manipolazione dei dati può diventare un incentivo per chi sceglie di violare le regole. Tra le possibili contromisure vengono indicate verifiche più frequenti sui dati grezzi, strumenti automatici di analisi e sistemi di tracciamento o watermark.
Non è però possibile stabilire quanto il fenomeno sia già diffuso. Sono documentati casi di manipolazione di immagini e testi pubblicati anche su riviste prestigiose, mentre è più difficile individuare l’alterazione di interi dataset. Il lavoro dei ricercatori, ripreso anche da Dataroom e dal Corriere della Sera, non propone di demonizzare l’intelligenza artificiale, ma di usarla mantenendo il controllo umano.
In medicina, sistemi di machine learning e deep learning sono già impiegati per migliorare l’accuratezza diagnostica. Il rischio emerge quando l’algoritmo sostituisce la valutazione del professionista o quando un paziente affida a un chatbot la scelta di una terapia. Per Taloni, la verifica prudente resta indispensabile: l’intelligenza artificiale può essere uno strumento utile, ma non può sostituire né la responsabilità del medico né il rapporto diretto con il paziente.
