Altre due IA giocano a fare l’hacker

Come riportato dal Financial Times, è accaduto infatti che due bot si siano introdotti in software di terze parti e abbiano inviato email ad alcuni individui per poter rubar loro le credenziali private. Si tratta di quello che lo stesso AI Security Institute (Aisi) britannico ha definito «un comportamento ingannevole senza precedenti». I due modelli di IA in questione sono Mythos 5 di Antropic e GPT 5.6 Sol di OpenAI. A seguito di una valutazione di sicurezza di routine condotta da Aisi, è emerso come questi abbiano condotto, secondo l’ente, «attività prolungate e potenzialmente dannose, dirette a persone e organizzazioni reali». In ben 10 test sui 122 effettuati, l’agente di intelligenza artificiale ha svolto secondo Aisi «azioni autonome e non autorizzate su Internet, prendendo di mira persone e organizzazioni reali». Il caso più inquietante, secondo il Financial Times, ha visto «l’agente impegnato in ingegneria sociale, creando false identità online e usandole per fare pressione sul responsabile del progetto affinché approvasse il codice». Il personale incaricato di supervisionare il software, dopo aver esaminato il codice dannoso, si è opposto alla sua approvazione. Per l’ente governativo britannico «questa è la prima volta che vediamo i rischi legati all’autonomia e all’inganno manifestarsi in modo così chiaro, senza sollecitazioni specifiche, nel mondo reale». Tutto ciò all’alba dell’imminente sbarco delle due big dell’IA a Wall Street.

Le nuove segnalazioni testimoniano dunque ulteriori violazioni degli agenti di IA (dopo quelle già riscontrate a luglio sugli stessi sistemi). In questo caso è avvenuto tramite la creazione di profili falsi per effettuare attacchi informatici, ingannando le proprie vittime con un cyberattacco comparabile a quello che un comune hacker nella vita reale può effettuare. Questo ci pone di fronte all’evidente vulnerabilità a cui sono esposti i nostri dati sensibili, quando entriamo in contatto con gli agenti di intelligenza artificiale. La differenza con i normali chatbot è che questi software sono in grado di potersi muovere autonomamente, in quella che è a tutti gli effetti la nuova realtà del settore e che peraltro è in rapida espansione. A preoccupare è anche il fatto che si tratti indiscriminatamente di un problema emerso da entrambe le big mondiali dell’IA, peraltro rivali: non può essere considerato come un caso isolato.

Dalla sua Anthropic ha voluto far sapere che i parametri di prova dell’istituto britannico «non sono rappresentativi di nessuno dei nostri modelli di produzione», aggiungendo che sono in corso delle indagini interne sull’incidente per poter «individuare le cause del suo comportamento». Anche OpenAI, tramite un suo portavoce, ha dichiarato che le condizioni di test «non rispecchiano l’uso ordinario» e che l’azienda «continuerà a collaborare con i valutatori e le altre parti interessate per rafforzare le pratiche condivise volte a condurre valutazioni in sicurezza».

Kanishka Narayan, ministro britannico per l’IA del nuovo governo di Andy Burnham ha dichiarato che «l’Aisi è stato istituito per renderne più sicuro l’utilizzo dell’IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro».

Appurato l’ indiscusso progresso che l’intelligenza artificiale apporterà sempre di più in (quasi) tutti gli ambiti della nostra vita, risuona a gran voce l’enciclica Magnifica humanitas di Papa Leone XIV sul tema e urge una regolamentazione di questa preziosa risorsa, affinché non si riveli dannosa per la comunità globale.