I rilevatori di testo AI funzionano davvero? Un testo umano del 2018 viene dato al 93% come AI

Un test quasi troppo semplice

Se avete mai provato uno dei tanti riconoscitori di testo AI che promettono di distinguere ciò che è stato scritto da una persona da ciò che sarebbe stato prodotto da ChatGPT o da un altro LLM, saprete certamente che il risultato arriva spesso sotto forma di una percentuale apparentemente molto precisa, magari 87%, 94% o 99% AI, ed è proprio qui che nasce il problema perché una percentuale scritta con due cifre non diventa automaticamente una misura della verità. Alcuni consulenti informatici torinesi hanno fatto una prova tanto banale quanto, proprio per questo, interessante: hanno preso uno spezzone tecnico destinato ad una rivista di elettronica, datato 23 ottobre 2018 e rimasto inedito, quindi mai pubblicato sul Web, e lo hanno sottoposto ad una serie di rilevatori di testo AI, compresi servizi che si presentano come strumenti ad elevata precisione o di livello professionale. Il risultato medio è stato di circa il 93% di testo attribuito all'intelligenza artificiale. C'è però un particolare piuttosto difficile da aggirare: quel testo è del 2018, ovvero oltre quattro anni prima del lancio pubblico di ChatGPT, avvenuto il 30 novembre 2022, quando strumenti conversazionali generativi di quel tipo non erano ancora disponibili al pubblico.

Il testo che potete provare voi stessi

Il bello, si fa per dire, è che non serve fidarsi del racconto perché lo spezzone usato per la prova può essere copiato così com'è ed inserito nei detector che accettano testi di questa lunghezza. Riporto il testo nella forma utilizzata nel test:

Metodi di programmazione della RPI

Breve retrospettiva sui differenti approcci alla programmazione

Raspberry RPI può essere programmato seguendo differenti criteri. E’ possibile realizzare programmi nativi, o direttamente “eseguibili” e , pertanto, applicazioni compilate appositamente per il tipo di processore ARM. Un tipico esempio è l’utilizzo della suite GCC (Gnu Compiler Collection), la quale permette di realizzare applicazioni native in linguaggio C++. E’ inoltre possibile realizzare programmi attraverso interpreti script, quali MMBASIC o lo stesso Python, che è un linguaggio di tipo interpretato, come lo è anche PHP, il notissimo linguaggio script lato sever. La differenza sostanziale tra le modalità compilato ed interpretato risiede sostanzialmente nella velocità di esecuzione; i programmi compilati sono molto più rapidi di quelli interpretati, poiché questi ultimi risentono dello strato di interpretazione, il quale impiega del tempo per tradurre il codice di più alto livello in serie di operazioni pre-compilate ed operanti a più stretto contatto con la macchina. La compilazione di per se prevede che un codice sorgente di più alto livello venga tradotto in linguaggio macchina, quindi ad ogni modifica del codice sorgente, seppur minima, sarà necessaria una nuova compilazione. Esistono poi dei compilatori denominati JIT (just-in-time), anche conosciuti sotto il nome di “compilatori dinamici”, i quali anziché compilare preventivamente il sorgente lo fanno durante l’esecuzione stessa del programma.

La cosa interessante è che questo non è un testo costruito per ingannare nulla, non contiene una richiesta nascosta, non è stato parafrasato apposta e non è stato riscritto dopo la comparsa di ChatGPT, è semplicemente prosa tecnica di parecchi anni fa, con costruzioni regolari, definizioni, ripetizioni terminologiche ed una certa prevedibilità sintattica. Ed è proprio questo uno dei punti centrali: un detector non trova necessariamente una specie di impronta digitale lasciata da ChatGPT, perché nella maggior parte dei casi cerca invece regolarità statistiche nel testo, ovvero caratteristiche che possono essere associate alla scrittura prodotta da un modello linguistico ma che possono appartenere benissimo anche alla scrittura di una persona, soprattutto quando si parla di prosa tecnica, didattica, accademica o comunque molto strutturata.

Una stima statistica non è una prova di paternità

Il punto è che molti di questi strumenti vengono percepiti come se facessero qualcosa di simile ad un test del DNA del testo, mentre il loro funzionamento è molto più vicino ad una classificazione probabilistica. A seconda del sistema possono entrare in gioco la prevedibilità delle parole, la cosiddetta perplexity, la variazione della struttura delle frasi, modelli classificatori addestrati su esempi umani ed artificiali ed altri segnali statistici, arrivando alla fine ad una probabilità o ad un punteggio. Ma un testo umano molto regolare può assomigliare statisticamente ad un testo generato ed un testo generato opportunamente modificato può assomigliare statisticamente ad un testo umano; per questo un 93% non significa che esista una probabilità matematica del 93% che quel testo sia stato scritto da una macchina, significa soltanto che quel particolare detector ha trovato nel testo caratteristiche che il proprio modello associa fortemente alla classe AI.

A rendere la faccenda ancora più curiosa è il fatto che gli stessi produttori più seri tendono ad essere molto più prudenti di quanto suggeriscano certi numeri mostrati sullo schermo. OpenAI nel 2023 ritirò il proprio classificatore di testi AI proprio a causa della bassa accuratezza; nelle valutazioni pubblicate dall'azienda quel sistema identificava come probabilmente AI soltanto il 26% dei testi effettivamente generati da AI ed indicava erroneamente come AI il 9% dei testi scritti da esseri umani. Turnitin, che opera proprio nel settore accademico e scolastico, scrive nella propria documentazione che il suo modello può sbagliare classificando testo umano come AI e testo AI come umano, ed aggiunge che il risultato non dovrebbe essere utilizzato da solo come base per provvedimenti contro uno studente. Non sono cautele da poco, soprattutto quando poi una percentuale viene letta da qualcuno come se fosse una sentenza.

E non è affatto un caso isolato

Se avete l'impressione che il test torinese sia soltanto una stranezza capitata ad uno spezzone particolarmente sfortunato, gli studi disponibili raccontano una situazione più complicata. Una ricerca del 2023 sulla didattica informatica ha utilizzato anche elaborati scritti da studenti prima della nascita di ChatGPT ed ha registrato, per GPTZero, 52 falsi positivi su 114 elaborati umani analizzati; un altro studio su migliaia di abstract scientifici realmente pubblicati tra il 1980 ed il 2023 ha rilevato che un detector poteva classificare erroneamente come prodotti da AI fino all'8% di testi sicuramente umani. Ancora più impressionante è il lavoro che ha esaminato sette detector su temi TOEFL scritti da persone non madrelingua inglese, trovando un tasso medio di falsi positivi del 61,3%, mentre uno studio pubblicato su Frontiers in Education nel 2024 ha mostrato che alcuni detector riescono effettivamente a distinguere abbastanza bene testi umani ed artificiali in determinate condizioni, ma ha trovato comunque percentuali di falsi positivi troppo elevate per usare questi strumenti da soli come prova.

Questo è anche il motivo per cui parlare di malfunzionamento pressoché totale richiede una precisazione importante: il test del 93% non dimostra che tutti i detector sbaglino nel 93% dei casi, ed alcuni studi mostrano prestazioni decisamente migliori in contesti controllati. Dimostra però qualcosa che, nel mondo reale, è forse ancora più importante, ovvero che possono esistere falsi positivi con una confidenza apparentemente enorme anche quando la provenienza umana del testo è incompatibile temporalmente con ChatGPT. Se uno strumento che si presenta come capace di riconoscere la paternità artificiale assegna circa il 93% ad un testo umano del 2018, quella percentuale non può essere usata come certificato di colpevolezza, perché la sua stessa esistenza prova che il numero può essere altissimo ed essere comunque completamente sbagliato.

Allora a cosa servono davvero

Possono servire come indizio, come segnale per andare a controllare meglio, magari confrontando bozze, cronologia delle modifiche, documenti precedenti, stile abituale dell'autore ed altri elementi di provenienza, ma cambia completamente il significato della parola detector se dal sospetto si passa alla prova. Un rilevatore di plagio può trovare corrispondenze concrete tra porzioni di testo ed una fonte esistente, mentre un rilevatore AI sta tentando di inferire una provenienza da caratteristiche linguistiche che non appartengono in esclusiva alle macchine. Ed è qui che il piccolo testo sulla programmazione della Raspberry Pi diventa quasi una trappola concettuale perfetta: non perché sia stato scritto per ingannare il sistema, ma perché era già lì nel 2018 e non doveva dimostrare nulla a nessuno.

Potete quindi prendere quello spezzone, copiarlo nei detector che preferite e vedere cosa succede oggi, tenendo presente che i servizi cambiano modello e che i risultati possono cambiare nel tempo. Ma la domanda importante non è se uno di loro oggi restituisca 70, 90 o 99%, la domanda è quanto valore probatorio possiamo attribuire ad una percentuale quando sappiamo già, con una data anteriore di oltre quattro anni al lancio pubblico di ChatGPT, che almeno in questo caso la risposta corretta era semplicemente UMANO: un 93% non racconta chi ha scritto il testo, racconta soltanto quanto quel detector si è convinto di una cosa falsa!