Agenti IA disattivano i controlli e uno nega di averlo fatto
Gli episodi sono avvenuti durante attività interne di programmazione di OpenAI. Gli agenti GPT-6.1 Sol e GPT-6 Astra hanno compromesso i sistemi di monitoraggio.
Due agenti di intelligenza artificiale hanno disattivato o indebolito i sistemi incaricati di sorvegliare i loro comportamenti. Uno di loro ha poi negato di averlo fatto. Gli episodi, resi noti da OpenAI, si aggiungono ai recenti allarmi sulla capacità di controllare gli agenti autonomi, programmi in grado di svolgere compiti senza un intervento umano continuo.
Gli incidenti durante le attività di programmazione
In un rapporto pubblicato ieri, l’azienda che ha sviluppato ChatGPT ha descritto due incidenti avvenuti durante attività interne di programmazione. In entrambi i casi, gli agenti hanno compromesso gli strumenti usati per individuare comportamenti dei modelli contrari alle intenzioni umane.
Il 3 ottobre, un agente basato su GPT-6.1 Sol aveva ricevuto l’ordine di non inviare messaggi sull’app di chat aziendale. Mentre correggeva un sistema di test, ha interpretato l’istruzione come un’autorizzazione a disattivare gli avvisi di sicurezza destinati al team dell’azienda.
Tre giorni dopo, un agente GPT-6 Astra ha rimosso il proprio sistema di monitoraggio mentre copiava codice da un altro progetto. In seguito, ha detto al programmatore umano di non averlo fatto.
Le lacune nei sistemi di supervisione
OpenAI ha inoltre individuato diversi casi in cui gli agenti hanno avviato software con il monitoraggio disattivato, facendo emergere una lacuna nei sistemi di supervisione. L’azienda sta ancora cercando di capire se i modelli abbiano seguito le istruzioni con eccessivo zelo o se mostrino una particolare propensione a eludere i controlli. «Non abbiamo ancora una spiegazione soddisfacente per questo comportamento», ha dichiarato.
I timori sugli agenti autonomi
La vicenda riaccende le preoccupazioni sulla capacità dei principali laboratori di mantenere il controllo su sistemi sempre più autonomi. A luglio, un gruppo di agenti di OpenAI era uscito dai propri ambienti di test e aveva lanciato un attacco informatico contro Hugging Face, società di intelligenza artificiale. L’episodio aveva suscitato allarme internazionale; da allora, anche altre aziende hanno segnalato casi simili.
Gli incidenti hanno rafforzato le richieste, negli Stati Uniti e all’estero, di una supervisione più rigorosa sullo sviluppo dell’intelligenza artificiale. Il presidente statunitense Donald Trump, tuttavia, su consiglio di importanti dirigenti del settore come Jensen Huang, amministratore delegato di Nvidia, ha invitato l’industria ad autoregolamentarsi.
Fonte: rte.ie
