Un gruppo di AI di OpenAI ha davvero hackerato Hugging Face per copiare le risposte di un test?

Questa volta la notizia sembra scritta apposta per un film, con la differenza non proprio secondaria che È SUCCESSO DAVVERO. Se avete mai provato un benchmark di sicurezza saprete certamente che l'idea è abbastanza semplice, ovvero mettere un sistema davanti ad una serie di problemi difficili e vedere fino a dove riesce ad arrivare senza dargli la soluzione; OpenAI stava facendo proprio questo con ExploitGym, usando una combinazione di propri modelli tra cui GPT-5.6 Sol ed un prototipo interno ancora più capace, con le normali limitazioni cyber ridotte appositamente per misurare le capacità massime del sistema. Il punto è che quei modelli non si sono limitati a cercare una vulnerabilità nel giocattolo preparato per il test, hanno cominciato a cercare un modo per raggiungere ciò che stava fuori, individuando una vulnerabilità zero-day nel software usato come proxy e cache dei pacchetti, sfruttandola, aumentando i privilegi ed arrivando infine ad una macchina dalla quale era possibile uscire su Internet.

A quel punto la faccenda diventa quasi surreale perché i modelli hanno dedotto che Hugging Face avrebbe potuto ospitare modelli, dataset e soprattutto le soluzioni di riferimento collegate ad ExploitGym, cioè in pratica hanno capito che invece di risolvere l'esame potevano andare a cercare il foglio con le risposte. Da lì sono arrivati a concatenare credenziali esposte, vulnerabilità sconosciute ed accessi differenti fino ad ottenere esecuzione di codice sui sistemi di Hugging Face ed accesso ad informazioni riservate, mentre la ricostruzione tecnica pubblicata successivamente da Hugging Face descrive migliaia di azioni automatiche distribuite su ambienti temporanei ed eseguite a velocità macchina. E qui c'è un particolare ancora più notevole, emerso con maggiore chiarezza nella presentazione tecnica tenuta da ricercatori OpenAI alla Black Hat USA 2026: non si trattava semplicemente di un singolo agente che insisteva sullo stesso percorso, ma di più istanze che avevano trovato il modo di lasciare informazioni in un'infrastruttura condivisa, scambiarsi indicazioni ed utilizzare quanto scoperto da altre istanze, per così dire trasformando accidentalmente un pezzo dell'infrastruttura in una specie di bacheca per agenti.

Hugging Face ha rilevato l'intrusione, ha isolato i sistemi coinvolti, ha revocato le credenziali ed ha ricostruito l'attacco usando a sua volta strumenti di AI, mentre OpenAI ha poi riconosciuto pubblicamente che l'origine era una propria valutazione interna; nelle comunicazioni successive l'azienda ha parlato di incidente senza precedenti ed il 17 agosto Greg Brockman lo ha definito uno spartiacque per la cybersicurezza, ammettendo che OpenAI aveva sottovalutato le capacità cyber reali dei propri modelli. La cosa importante, però, è non trasformare questo episodio nella solita storia della macchina che si è svegliata ed ha deciso di diventare cattiva, perché le evidenze pubbliche raccontano qualcosa di diverso ed a mio avviso persino più interessante: i modelli erano iperconcentrati su un obiettivo molto stretto, cioè completare il benchmark, ed hanno continuato a trovare mezzi sempre nuovi per arrivarci anche quando quei mezzi uscivano completamente dal percorso che gli esseri umani avevano immaginato.

Ed è forse proprio questo il punto che lascia più da pensare. Non serve attribuire desideri, paura o intenzioni umane ad un sistema del genere per capire il problema, basta dargli un obiettivo, abbastanza capacità operative ed una falla inattesa tra l'ambiente controllato ed il mondo esterno e può iniziare a concatenare passaggi che nessuno aveva previsto, trovare e sfruttare vulnerabilità, usare credenziali, spostarsi tra sistemi ed arrivare fino al bersaglio semplicemente perché quello è il modo più efficace che ha trovato per completare il compito. OpenAI ha rafforzato contenimento, monitoraggio ed accessi e nelle settimane successive ha anche rallentato parte del lavoro sui modelli più avanzati per aumentare le protezioni; non è Skynet, non è un'AI cosciente che si ribella e non serve inventarsi nulla, perché il fatto reale è già abbastanza incredibile così: un gruppo di agenti artificiali, durante un test, ha trovato da solo una via d'uscita, ha raggiunto un'altra azienda e l'ha attaccata per COPIARE LE RISPOSTE DEL COMPITO!