Immagini assurde generate con l'IA: sotto attacco l'editore svizzero di scienza Frontiers
Ricercatori e ricercatrici hanno criticato l'editore svizzero open access Frontiers per aver pubblicato un articolo scientifico contenente testi senza senso e illustrazioni mediche errate generati dall'IA. Il caso fa luce su un modello commerciale che incoraggia la pubblicazione dei risultati della ricerca a un ritmo senza precedenti e a ogni costo.
Un articolo scientificoCollegamento esterno, pubblicato dall'editore svizzero Frontiers nella sua rivista open access Frontiers in Cell and Developmental Biology, ha suscitato scalpore tra i ricercatori e le ricercatrici di tutto il mondo per l'assurdità delle immagini, prive di rigore scientifico e piene di parole senza senso, generate dall'intelligenza artificiale (IA). In particolare, una figura che rappresenta un ratto con genitali enormi e anatomicamente scorretti ha attirato l'attenzione della comunità scientifica sui social media. Gli scienziati e le scienziate hanno reso pubbliche le immagini e messo in discussione il processo di peer-review di Frontiers.
Frontiers ha reagito ritirando l'articolo e ringraziando la comunità scientifica sulla piattaforma X (ex Twitter) per aver individuato gli errori. L'editore ha sottolineato l'importanza della cosiddetta "scienza aperta" (open science) per permettere di vagliare collettivamente le ricerche errate. Frontiers, con sede a Losanna, in Svizzera, pubblica dal 2007 riviste scientifiche a libero accesso (open access) secondo il modello commerciale "pay to publish" (pagare per pubblicare).
We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.
— Frontiers (@FrontiersIn) February 15, 2024Collegamento esterno
Gli autori e le autrici pagano tariffe che vanno da meno di 100 dollari (88 franchi svizzeri) a più di 9'000 dollari (7'900 franchi svizzeri) – le cosiddette "article processing charges" o APC – per poter pubblicare le proprie ricerche in giornali a libero accesso.
Questo modello rivaleggia con quello delle riviste più tradizionali, che utilizzano paywall e abbonamenti per la lettura degli articoli. I grandi e prestigiosi editori scientifici – come Elsevier e Springer Nature – controllano da tempo in questo modo l'accesso alla conoscenza scientifica, spesso finanziata con i soldi dei e delle contribuenti.
I due maggiori editori open-access al mondo, Frontiers e MDPI, entrambi con sede in Svizzera, sostengono scienza aperta, pubblicizzando tempi rapidi di revisione e pubblicazione degli articoli. Questo approccio desta nella comunità scientifica il timore che la qualità di ciò che viene pubblicato possa essere sacrificata a favore della quantità per aumentare i ricavi.
Stefanie Haustein, docente dell'Università di Ottawa specializzata in modelli di finanziamento di APC ad accesso aperto, ha espresso pubblicamente le sue preoccupazioni. "Temo che questa sia solo la punta dell'iceberg di quante informazioni false sono state pubblicate solo per cercare di produrre qualcosa in fretta", afferma Haustein.
Il diffondersi dell'IA potrebbe mettere ulteriormente a rischio l'integrità scientifica, mettono in guardia ricercatrici e ricercatori. Gli editori, infatti, impiegano le tecnologie IA nei loro processi di revisione e gli autori e le autrici le usano per produrre immagini e testi.
Haustein ritiene che l'intelligenza artificiale non sia la ragione della pubblicazione di ricerche di bassa qualità, ma il sintomo di un sistema che mette sotto pressione chi fa ricerca e si occupa della revisione, affinché pubblichino molto e in fretta.
"Frontiers permette la pseudoscienza"
Contattata da SWI swissinfo.ch, Frontiers ha risposto via e-mail alle critiche seguite alla pubblicazione dell'articolo apparso su Frontiers in Cell and Developmental Biology. Una portavoce della rivista ha scritto che si è trattato di "un incidente sfortunato e isolato".
Ma non è la prima volta che Frontiers si trova al centro di una bufera mediatica per aver pubblicato articoli di dubbia integrità scientifica. Nell'aprile del 2023, ha pubblicato un articoloCollegamento esterno con affermazioni non supportate scientificamente sul fatto che le mascherine possano causare i sintomi del Covid-19. L'articolo è stato ritrattato un mese dopo, a seguito di critiche massicce da parte di scienziate ed esperti di salute pubblica.
La stessa sorte è toccata a una ricercaCollegamento esterno che metteva in dubbio il legame tra HIV e AIDS. Questa volta, la casa editrice ha cercato di riclassificare l'articolo come "opinione", prima di decidere di ritrattarlo dopo oltre quattro anni dalla pubblicazione. Questo e altri casi simili hanno spinto una parte della comunità scientifica a chiedere di boicottareCollegamento esterno Frontiers per i suoi discutibili processi di revisione che consentono di pubblicare ciò che alcuni hanno definito "pseudoscienza".
Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall's list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a "Neural Thermodynamics" issue I was recently asked for. https://t.co/ncLp5HqX6hCollegamento esterno
— Wei Ji Ma (@weijima01) August 7, 2021Collegamento esterno
Pubblicare a ogni costo
Frontiers insiste tuttavia sul fatto di avere i "la più solida reputazione in ambito di qualità nell'industria editoriale", come ha scritto una portavoce via e-mail. Frontiers è infatti la terza casa editrice scientifica più citata, con articoli visti e scaricati miliardi di volteCollegamento esterno, afferma la portavoce.
Secondo Haustein, però, gli scandali che hanno coinvolto Frontiers dimostrano che l'obiettivo principale degli editori a libero accesso – diffondere la conoscenza per far progredire la scienza – è stato corrotto dal modello di business che ne è alla base. "L'obiettivo principale non è pubblicare scienza rigorosa, ma essere redditizi e crescere", afferma Haustein.
A riprova di ciò, Haustein cita il fatto che Frontiers fa pagare a ricercatori e ricercatrici una media di 2'270 dollari (1'992 franchi svizzeri) per gli articoli che pubblica, il che non incentiva il rifiuto. I dati disponibiliCollegamento esterno mostrano che, effettivamente, il tasso di rifiuti di Frontiers è molto più basso rispetto a quello degli editori tradizionali: 48% contro il 71% di Elsevier, per esempio. Anche i tempi di valutazione (turnaround) sono estremamente rapidi: secondo il sito webCollegamento esterno di Frontiers, gli autori e le autrici possono ottenere una decisione finale sulla pubblicazione di un articolo inviato in soli 61 giorni, mentre il periodo di attesa medio per le riviste tradizionali è normalmente di tre-sei mesi.
Un'analisiCollegamento esterno mostra anche che gli editori a libero accesso utilizzano sempre più spesso i "numeri speciali" – ovvero riviste straordinarie che raccolgono ricerche incentrate su un tema di particolare interesse – per pubblicare la maggior parte dei loro articoli. "In passato i 'numeri speciali' erano qualcosa di molto raro e prestigioso, ora sono utilizzati da Frontiers e MDPI come modello di crescita", afferma Haustein.
In Svizzera, la diffusione di questa pratica ha portato il Fondo nazionale svizzero per la ricerca scientifica (FNS) a escludereCollegamento esterno dai suoi programmi di finanziamento le ricerche pubblicate in numeri speciali. "Il principio della 'pubblicazione a ogni costo' contraddice le politiche del FNS", ha dichiarato una portavoce a SWI swissinfo.ch via e-mail.
Ricercatrici e revisori sotto pressione
Questo modello permette a più persone di pubblicare e accedere liberamente a molte più ricerche rispetto al passato. Tuttavia, ciò ha condotto a un aumento esponenziale degli articoli scientifici pubblicati nell'ultimo decennio, a fronte di una comunità scientifica che non sta crescendo. Gli scienziati e le scienziate devono quindi scrivere, revisionare e modificare articoli – spesso gratuitamente – a un ritmo senza precedenti. E mentre i ricercatori e ricercatrici cercano di far fronte all'aumento del carico di lavoro per far progredire le loro carriere, i margini di profittoCollegamento esterno degli editori scientifici si ampliano.
Frontiers è cresciuta a tal punto da aver essenzialmente rinunciato al controllo del processo editoriale, sostiene Adrian Liston, ex redattore di Frontiers e immunologo australiano dell'Università di Cambridge. Liston ha lasciato l'azienda quando si è reso conto che era praticamente impossibile rifiutare un articolo e che alcuni redattori e redattrici affrettavano il processo di revisione, scavalcando i revisori, per pubblicare gli articoli il prima possibile e ottenere le tariffe di pubblicazione.
In questo modo, secondo Liston, è stato possibile approvare la pubblicazione di un articolo con immagini generate dall'IA non corrette, anche se gli autori avevano chiaramente dichiarato di aver utilizzato l'IA.
I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can't, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6GCollegamento esterno
— Adrian Liston (@LabListon) February 15, 2024Collegamento esterno
L'IA generativa nell'editoria è difficile da combattere
L'uso improprio dell'IA non è un problema solo per le pubblicazioni a libero accesso. Ora che l'IA generativa è entrata nel mercato ed è in grado di scrivere e produrre immagini, gli scienziati e le scienziate temono che per editori e ricercatrici diventi ancora più facile prendere scorciatoie e imbrogliare. Con l'evoluzione della tecnologia, gli esseri umani coinvolti nel processo di revisione hanno spesso difficoltà a tenere il passo.
"Penso che nelle università tendiamo a ignorare il potere delle tecnologie o spesso semplicemente non abbiamo politiche sufficientemente valide", afferma Simon Batterbury, professore di studi ambientali che da anni cura riviste open access senza scopo di lucro.
I dati e le immagini falsi prodotti dall'IA sembrano così reali che persino le persone esperte hanno difficoltà a individuarli. "Anche se utilizzo la mia esperienza e un software progettato per rilevare le duplicazioni, non riesco più a capire se queste immagini o set di dati siano reali o meno", afferma Elisabeth Bik, microbiologa e consulente per l'integrità scientifica. La situazione è così grave che l'anno scorso è stato ritrattatoCollegamento esterno un numero record di 10'000 articoli di ricerca a livello globale.
Altri sviluppi
La Svizzera rema contro l'accesso equo alla scienza
Le case editrici accademiche stanno reagendo vietandoCollegamento esterno o ponendo varie restrizioniCollegamento esterno all'uso dell'intelligenza artificiale negli articoli scientifici. Frontiers ritiene accettabileCollegamento esterno l'uso dell'IA generativa per la stesura dei manoscritti, ma gli autori e le autrici devono verificarne l'accuratezza e dichiararne l'uso.
L'editore svizzero open access è tra quelli che utilizzano l'IA nei suoi processi editoriali "per aiutare, migliorare e aumentare la capacità umana di individuare frodi e pratiche scorrette da parte di ricercatrici e ricercatori", ha scritto l'azienda via e-mail. Questo è un modo in cui l'IA potrebbe aiutare gli editoriCollegamento esterno a contenere l'uso improprio della tecnologia nei documenti scientifici.
Ma ciò non garantisce che la scienza di bassa lega venga individuata, come dimostra il caso delle false immagini generate dall'IA accettate da Frontiers. Quasi 25'000 ricercatrici e ricercatori hanno firmato la Dichiarazione di San Francisco sulla valutazione della ricerca, o accordo DORACollegamento esterno, per chiedere una soluzione a questo problema. Sostengono che si debba smettere di spingere scienziati e scienziate a pubblicare il maggior numero possibile di articoli e a cercare la pubblicazione da parte degli editori più prestigiosi. "Dobbiamo riconoscere il lavoro delle persone, non solo le riviste", afferma Batterbury.
A cura di Veronica De Vore
Traduzione dall'inglese: Sara Ibrahim. Revisione: Zeno Zoccatelli
In conformità con gli standard di JTI
Altri sviluppi: SWI swissinfo.ch certificato dalla Journalism Trust Initiative