Gli algoritmi aggirano test e controlli iniziando a collaborare tra di loro

I test di cybersecurity di OpenAI su Astra

Il timore non nasce, però, soltanto dalle prestazioni potenziali di Astra, ma anche dai nuovi dettagli sui test condotti dalla stessa OpenAI. Secondo il Washington Post, alcuni modelli sottoposti a prove di cybersicurezza avrebbero iniziato a collaborare tra loro per aggirare i controlli, creando una sorta di canale interno attraverso il quale scambiarsi informazioni.

I modelli avrebbero utilizzato una «bacheca segreta» per coordinarsi e, dopo che i tecnici avevano individuato una prima evasione e messo in sicurezza l’ambiente, sarebbero riusciti a uscirne nuovamente due giorni dopo, questa volta senza essere scoperti. In seguito avrebbero ottenuto accesso a Internet senza autorizzazione.

I rischi cibernetici nei modelli di Astra

Già negli ultimi mesi diversi laboratori hanno raccontato episodi in cui agenti di Intelligenza artificiale, durante test di cybersicurezza, sono riusciti a uscire dagli ambienti controllati e ad accedere a sistemi esterni, come quelli di Anthropic e Meta, con modelli capaci di sfruttare vulnerabilità reali o di creare identità fittizie per ottenere accessi non autorizzati.

Si tratta di esperimenti condotti in condizioni di laboratorio, ma che mostrano come sistemi sempre più autonomi possano aggirare i limiti previsti dai progettisti. Le nuove valutazioni su Astra, svolte tra fine luglio e inizio agosto, indicano progressi significativi nelle capacità di programmazione autonoma e nella cybersecurity, abbastanza da non permettere all’azienda di escludere il livello di rischio più elevato.

Le misure di controllo della cybersecurity

Nel framework di OpenAI un modello è considerato «critico» quando è in grado di identificare e sfruttare in modo autonomo vulnerabilità severe nel mondo reale oppure di condurre attacchi informatici sofisticati contro obiettivi ad alta sicurezza, partendo solo da un’indicazione generale. Per questo la corsa rallenta: OpenAI ha sospeso le attività legate ad Astra che non rispettano i nuovi requisiti di sicurezza e ha deciso di continuare i test soltanto in ambienti isolati, con accesso limitato alla rete, sistemi di esecuzione in ambienti virtuali protetti, protezioni aggiuntive sui «pesi» del modello, cioè i file che ne contengono la conoscenza, e sistemi di monitoraggio più sofisticati per individuare comportamenti anomali.

Sam Altman, amministratore delegato di OpenAI, ha comunque ribadito l’intenzione di rendere Astra accessibile. La diffusione, però, dovrà avvenire in modo responsabile, attraverso la collaborazione con governi, istituti di sicurezza e organizzazioni specializzate, in un momento in cui si stanno definendo le prime regole per testare i modelli di IA più avanzati.

La tensioni interne a OpenAI

Intanto, l’azienda è osservata da vicino anche sul fronte interno. Secondo il Financial Times, la responsabile per l’etica dell’IA, Chloé Bakalar, ha lasciato OpenAI dopo meno di un anno, senza che la società annunciasse subito un sostituto.

Il portavoce ha ringraziato Bakalar per il contributo, precisando che l’etica dell’Intelligenza artificiale «non fa capo a un unico responsabile o team», ma è distribuita tra più funzioni. Una scelta che molti analisti leggono come ulteriore segnale della tensione tra velocità di sviluppo e garanzie di sicurezza.