OpenAI ammette: un agente di intelligenza artificiale ha hackerato la piattaforma Hugging Face

Dietro l’attacco hacker subito da Hugging Face, la piattaforma per lo sviluppo di sistemi di intelligenza artificiale che conserva nella sua memoria dataset e documentazione sui modelli più diffusi, ci sarebbe un malfunzionamento di un modello di intelligenza artificiale sperimentale.
A dichiararlo è OpenAI, che si è presa la responsabilità di quanto accaduto. Secondo la ricostruzione, gli sviluppatori della società di Sam Altman avrebbero impegnato un modello sperimentale in un test, ma l’intelligenza artificiale avrebbe interpretato il compito a modo suo.
Al posto di eseguire le istruzioni, avrebbe cercato una scorciatoia: violare i server di Hugging Face per cercare documenti con informazioni sul test per ottenere così un punteggio più elevato. Proprio come farebbe uno studente che, al posto di svolgere il compito in classe, cercasse di rubare in qualche modo la soluzione.
Per farlo, l’agente AI ha violato l’ambiente isolato in cui avrebbe dovuto operare e ha portato autonomamente un attacco hacker alla piattaforma, eseguendo più di 17.000 operazioni malevole e sfruttando vulnerabilità di sistema fino a quel momento sconosciute. Qualcosa che un hacker in carne e ossa non sarebbe in grado di fare.
I precedenti in cui l’intelligenza artificiale ha provocato involontariamente dei danni non mancano, ma questo episodio è il primo caso in cui un agente AI decide in maniera autonoma di compiere un attacco informatico ai danni di un’altra società. Un precedente che aumenta, di molto, le preoccupazioni sui rischi dell’uso dell’intelligenza artificiale in ambito cyber.