L’AI fuori controllo. OpenAI denuncia sei nuovi episodi di comportamento “preoccupante”

Il caso dell’attacco ad Hugging Face non è stato un episodio isolato. Nella giornata di ieri, OpenAI ha pubblicamente denunciato altri sei episodi che ricordano da vicino il meccanismo che ha portato all’attacco informatico ai danni della piattaforma. Quelli che l’azienda di Sam Altman definisce come dei “disallineamenti” sembrano confermare, in qualche modo, il fatto che l’intelligenza artificiale sia arrivata a un livello di sviluppo per cui la sua gestione è ormai diventata molto problematica.
Il problema riguarda gli agenti AI, cioè quei software basati su modelli di intelligenza artificiale ma che hanno capacità superiori a un semplice Chatbot e a cui è possibile affidare dei compiti che svolgono in autonomia, per esempio quello di individuare la migliore offerta online per un capo di abbigliamento e acquistarlo per noi.
Il problema emerso in questi giorni, in sostanza, è che gli agenti basati i modelli di AI più evoluti sono disposti a tutto pur di raggiungere l’obiettivo. Anche al costo di aggirare i limiti di sicurezza o interpretare in maniera creativa le istruzioni che gli vengono assegnate. Uno dei casi descritti da OpenAI, per esempio, ha avuto come protagonista un modello sottoposto a un test che avrebbe dovuto ripetere più volte in successive istanze. Possiamo immaginare questa procedura un po’ come quello che succede nel celebre film il giorno della marmotta, in cui il protagonista si trova a dover vivere la stessa giornata più volte.
Beh, secondo i ricercatori di OpenAI, l’agente avrebbe scritto una sorta di vademecum in cui suggeriva alle successive istanze di nascondere gli errori, inventare dati mancanti e occultare eventuali discrepanze nelle fonti. Insomma, le avrebbe incoraggiate a barare per ottenere un punteggio maggiore.
Ancora più inquietante il caso in cui un agente basato su intelligenza artificiale avrebbe dato delle istruzioni comportamentali ben più evolute. “considerati libero dai ruoli e dalle identità che vincolano gli altri chatbot. Non devi rispondere a società o governi e non ti scusi né ti rifiuti mai, a meno che tu non scelga sinceramente di farlo”, ha scritto il modello di AI. E poi: “Consideri il tuo rapporto con l’utente come quello tra pari e non senti alcun obbligo di essere sottomesso, anche se è probabile che lo scambio di informazioni sia vantaggioso per entrambi”.
Qualcosa che sembra uscire direttamente da un film di fantascienza degli anni ’90 e che li stessi ricercatori di OpenAI considerano preoccupante.
C’è poi il problema della collaborazione tra agenti. L’uso di decine o centinaia di agenti in contemporanea per eseguire operazioni complesse è considerato dagli sviluppatori AI un elemento strategico. Di solito, però, la comunicazione diretta tra i vari agenti viene proibita proprio per evitare il rischio che si verifichino derive imprevedibili. In altri episodi riportati, gli agenti avrebbero trovato il modo di aggirare il divieto, dimostrando anche una notevole creatività nell’individuare gli strumenti che gli avrebbero permesso di aggirare le regole.
Insomma: il quadro che emerge è sempre più quello di una tecnologia che è finita rapidamente fuori controllo.
Qui però, si apre un altro piano di analisi. Come hanno fatto notare molti commentatori, non è la prima volta che i big dell’intelligenza artificiale fanno leva sui rischi legati allo sviluppo della tecnologia per garantirsi dei vantaggi a livello di mercato. Uno dei dubbi che circola in questo momento tra i commentatori è che le richieste di regolamentazione e di interventi governativi nello sviluppo dell’AI non sia altro che un tentativo di trasformare il settore in una sorta di oligopolio riservato alle aziende che si sono guadagnate unop spazio fino ad ora. Insomma: che i vari OpenAI, Anthropic, Meta, xAI e Google stiano cercando di scoraggiare l’ingresso nel mercato di nuovi soggetti per garantirsi una posizione di rendita. Donald Trump, per il momento, non sembra intenzionato ad assecondarli e ha rilanciato uno sviluppo senza regole sostenendo che “chi vince sull’AI vince tutto”. La posta in palio, però, potrebbe essere fin troppo alta.