Si chiamano pre-print: come suggerisce il nome, si tratta di articoli (scientifici) caricati dai ricercatori su server appositi (il più famoso di tutti è arXiv, ma ce ne sono molti altri) prima del processo di revisione dei pari e della pubblicazione su riviste “ufficiali”. Una mossa che serve ad accelerare i tempi (tipicamente molto lunghi) dell’editoria scientifica e a rivendicare la paternità di una scoperta prima che lo faccia qualcun altro, e che si è spesso rivelata molto efficace – per esempio nel caso del CoViD, quando arXiv e simili furono letteralmente inondati di lavori sul sequenziamento del genoma del virus e sullo sviluppo del vaccino – per ottimizzare l’iter della ricerca e dare modo alla comunità scientifica di valutare un lavoro immediatamente dopo il suo completamento. I pre-print sono tanti, tantissimi, nell’ordine dei milioni, e dentro, oltre alla scienza, c’è di tutto. Anche cose che non ci sarebbero dovute essere: un nuovo studio, caricato su arXiv (sic!) ad aprile scorso e presentato all’Institute of Electrical and Electronics Engineering Symposium on Security and Privacy a San Francisco, in California, i cui autori hanno analizzato 2,7 milioni di pre-print, ha mostrato che l’88% dei documenti conteneva informazioni, per usare un eufemismo, “aggiuntive”: chiavi informatiche per accedere agli script utilizzati nelle simulazioni, coordinate Gps con gli indirizzi personali dei ricercatori, liste di cose da fare, password in chiaro e discussioni molto accese tra gli autori.
“È solo la punta dell’iceberg”
Tutto questo rappresenta, naturalmente, un serio problema di sicurezza: “Ciò che abbiamo scoperto”, ha spiegato a Nature Jan Pennekamp, esperto di cybersicurezza alla Rwth Aachen University e primo autore del lavoro, “è solo la punta dell’iceberg. Ogni pre-print ha più di una versione, e tutte le versioni rimangono online: ci sono oltre 12 milioni di documenti ancora da esaminare, e i dati sensibili e inappropriati esposti potrebbero essere molti di più”. Il problema, spiegano gli esperti, sta (anche) nel flusso di lavoro relativo alla scrittura e alla pubblicazione degli studi: gli scienziati non utilizzano “normali” processori di testo, ma si servono di uno strumento chiamato LaTeX (più precisamente si tratta di un linguaggio di markup) progettato espressamente con lo scopo di formattare adeguatamente e in modo coerente formule matematiche, tabelle e grafici. LaTeX è simile a un linguaggio di programmazione, e consente agli autori di inserire dei commenti all’interno del testo, leggibili da chi ci sta lavorando ma invisibili nel documento finale: “La maggior parte dei ricercatori”, sottolinea Ricardo Henriques, biofisico all’António Xavier Institute of Chemical and Biological Technology di Oeiras, in Portogallo, “si preoccupa solo dell’aspetto del documento finale, e non si cura di tutto quello che è stato inserito nei file sorgenti scritti in LaTeX”.
Cosa c’è nei pre-print
Come dicevamo, lo studio di Pennekamp e colleghi ha svelato un mondo sommerso molto interessante. Tra le pieghe del codice sorgente, l’analisi ha fatto emergere conversazioni private tra coautori, commenti poco lusinghieri (per non dire imbarazzanti) sui ricercatori concorrenti e annotazioni su debolezze metodologiche degli studi che non sono mai state menzionate nel testo finale. In alcuni casi, ricercatori precedenti avevano già documentato l’uso di espressioni colorite: un’analisi su 600mila pre-print aveva scovato commenti come “WTF does this mean?” (“Che c***o vuol dire questo?”), e nel nuovo studio i ricercatori hanno persino trovato parolacce usate sistematicamente come chiavi di citazione bibliografica, da “fuck1” a “fuck7”. Gli autori del lavoro, in particolare, hanno suddiviso le informazioni trapelate in tre categorie principali: i file “dangling”, ossia documenti accessori non utilizzati per la stesura del documento finale, tra i quali sono spuntati elenchi bibliografici che rivelano i retroscena accademici, come una chiave di citazione chiamata goliardicamente “oldpaperthatscoopedus” (“il vecchio articolo che ci ha soffiato la scoperta”); i metadati di immagini e Pdf, dai quali sono emerse informazioni temporali e geografiche sensibili – ben 7.326 documenti contenevano immagini con tag Gps; e i commenti LaTeX di cui parlavamo prima, dove si nasconde il materiale più critico. Parliamo di 265 chiavi Api, 4 chiavi private, 171 password, 699 link a Google Docs con permessi di modifica aperti a chiunque e contenenti bozze, verbali di riunioni e, in 18 casi gravissimi, persino i dati sensibili dei partecipanti a sondaggi scientifici.
L’ombra dell’Ia
A complicare le cose si è aggiunta, neanche a dirlo, l’intelligenza artificiale: i ricercatori hanno trovato 537 documenti contenenti frammenti di testo nascosto riconducibili a frasi tipici dei chatbot, come “As an Ai language model…” (“In quanto modello linguistico Ai…”); sono state inoltre rinvenute istruzioni occulte (prompt injection) scritte nei commenti, potenzialmente progettate per manipolare i sistemi di revisione automatica basati su Llm. In realtà, esistono già strumenti progettati per ripulire i file prima del loro caricamento, ma la loro efficacia è limitata, perché si basano su euristiche che spesso mancano i commenti nascosti o, al contrario, finiscono per eliminare file necessari. Per colmare questa lacuna, Pennekamp e colleghi hanno sviluppato, e reso disponibile in modalità open-source, uno strumento chiamato Alc-Ngm che traccia in modo analitico quali file sono effettivamente utilizzati, rimuove i metadati dalle immagini e rileva i commenti nascosti analizzando la struttura sintattica del documento. Speriamo sia sufficiente per contenere la furia degli scienziati.
