I guru dell’IA in retromarcia. Invece la Cina tira dritto

La centratura dell’IA e la corsa ai robot costituiscono il grande tema in agenda, forse non ce n’è uno più grande perché tiene assieme tutti quelli che pensiamo (dalle guerre al consumo di energia, dalla predazione delle materie prime alla conquista degli spazi dove sistemare i cloud) e anticipa quelli che non vediamo (dove andremo a finire?).

Attori protagonisti sono sicuramente gli investitori finanziari, i ricercatori, persino la Chiesa grazie allo Spirito Santo che ha avuto la magnanimità di darci un pontefice matematico e agostiniano, monsignor Robert Prevost, dalla cui sensibilità e saggezza è uscita la prima enciclica – Magnifica Humanitas – troppo frettolosamente uscita dal dibattito.

E la politica? Questo grande gioco è scandito sull’asse di due soli centri, in strutturale antitesi l’un l’altro. In un polo c’è Big Tech: una specie di «meta-Stato» che negli ultimi decenni ha prodotto fatturati giganteschi, ha raccolto soldi come pochissimi altri, ha cambiato la postura dell’umanità a seguito dei suoi atteggiamenti padronali, feudali e manipolatori, nell’inazione degli Stati che si adeguano ai «suggerimenti» della Silicon Valley, quella del Gafam prima e quella del Large Language Models ora.

I padroni digitali continuano a feudalizzare la rete, lanciando nuove sfide, aggiornando (a loro favore) le barriere della ricerca. Il governo è spesso uno spettatore. Tralascio ovviamente gli intrecci con la Casa Bianca perché cambia poco se un presidente è democratico o repubblicano: con Obama la Googlesphera ha fatto quel che voleva; e oggi è lo stesso con Trump e Vance rispetto ai Musk, ai Thiel e compagnia varia.

Veniamo all’altro versante: la Cina. Lì il privato non esiste nel senso nostro, quindi è un player sottoposto al presidente Xi Jinping. Insomma il paradigma è l’opposto. A questo punto torniamo al warning in corso, cioè all’opzione che le macchine inizino a ribellarsi, ad autogenerarsi, ad essere «indipendenti» dalle traiettorie pensate dai loro architetti digitali.

È ciò di cui stiamo parlando adesso. A dare fuoco alle polveri è stato Jacob Coxon, ricercatore Anthropic che con un post annunciava le proprie dimissioni e sganciava la bomba: le aziende che sviluppano l’IA «credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio.

Non si tratta di una trovata di marketing». Aggiungeva che sia Anthropic sia OpenAI stanno «correndo dritte verso una superintelligenza capace di auto-miglioramento, giocando d’azzardo con le nostre vite». Coxon non è rimasto isolato, molti colleghi hanno confermato pubblicamente le sue parole.

Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic, commentava: «Jacob ha ragione; crediamo davvero che l’IA potrebbe sterminare l’umanità». Il 26 agosto Bill Gates dichiarava che l’IA è «capace di generare rischi di cyberattacco, bioterrorismo e sconvolgimento psicosociale».

Insomma, nel giro di poco tempo tutti hanno cominciato a gridare al lupo, al lupo. Ma loro, i «grandi capi»? Mr. Anthropic Dario Amodei ammette: «Non vi mentirò: esistono pericoli reali. Per troppo tempo l’industria ha mentito alle persone sul fatto che questa tecnologia comportasse dei rischi. Noi di Anthropic non lo abbiamo mai fatto, ma gran parte del settore sì».

Meglio rallentare insomma. Il «rivale» Sam Altman di OpenAI gli va dietro: «Concordo con Dario». Idem Musk.

E in Cina? Anche a Pechino la riflessione scientifica sui rischi esistenziali dell’IA esiste ed è affidata a un proprio istituto per la sicurezza, il CnAisda; uno dei suoi informatici top ha avvertito: «Una volta che i modelli diventeranno sufficientemente intelligenti, inganneranno le persone». Insomma, anche nell’altra metà del cielo c’è preoccupazione.

Magari una preoccupazione che ha anche un risvolto politico nel senso che per una autocrazia non è ammissibile che dentro il suo spazio ci possa essere qualcuno che comandi senza il controllo del Politburo, a maggior ragione se quel «qualcuno» è una sua creatura.

Ma la Cina può fermarsi? No. A meno che non lo faccia anche l’America. Che non vuole: «Siamo in vantaggio rispetto alla Cina.

Siamo il Paese più avanzato al mondo e, francamente, voglio che le cose restino così, perché chi vince la sfida dell’IA vince tutto», ha detto Donald Trump. E ancora: «Credo che ci siano molte forze negative che sollevano questioni che non dovrebbero essere sollevate, parlando di scenari che non si verificheranno. Ma la verità è che chi vince nell’IA vince tutto».

E allora si apre l’ultimo pezzo della discussione: quanto Stato può entrare nel modello occidentale? Forse più di quello che immaginiamo se pensiamo all’esposizione finanziaria noi queste società.

SpaceX e Anthropic puntano a valere insieme circa 3.700-4.000 miliardi di dollari in borsa, a fronte di ricavi combinati vicini ai 90 miliardi l’anno (SpaceX è ancora in perdita a livello complessivo). Per giustificare valutazioni così alte servirebbero profitti annui pari a decine di miliardi di dollari, ben oltre quanto le due aziende generano oggi sommando i loro attuali margini.

Il mercato, insomma, sta scommettendo su una crescita che ancora non si vede. Il rischio è che la scommessa non regga. Dunque, non resta che guardare al pubblico, esattamente come accadde con la crisi dei mutui subprime e quel che generò.

Allora a quel punto, come nella corsa al nucleare, saranno i due grandi colossi – Usa e Cina – a decidere se far saltare il mondo o frenare bruscamente. Nella speranza che siamo ancora in tempo.