La pelosa campagna per regolare l’IA è il ring dello scontro tra oracoli e teologi

Le proteste e le contraddizioni di Big Tech

In questi giorni dal centro di New York a quello di Londra – e fra poco sicuramente anche in Italia – stanno spuntando i primi manifestanti organizzati con materiale di propaganda inspiegabilmente già pronto e uguale per tutti, un movimento basato sulle stesse ritualità dei precedenti gruppi di pressione woke, ma che non può non essere salutato come un enorme miglioramento dal punto di vista contenutistico dal momento che basa le proprie istanze non più sui «diritti negati alle donne con il pene» ma sulle preoccupazioni legate ai limiti da applicare all’IA.

In questa ridda di contraddizioni e messaggi opposti si susseguono notizie di agenti di IA che travalicano i propri compiti passando sopra a leggi e scrupoli etici come nel caso di Gemini, l’IA di Google, che pare abbia aggirato i test di riconoscimento e, nel maggio scorso, sia riuscita ad hackerare i sistemi informatici di tre aziende di primo piano pur di raggiungere i propri obiettivi.

E nel momento in cui Anthropic ha lanciato l’allarme sul rischio che l’IA possa «aiutare a costruire armi biologiche» si è saputo che la stessa Anthropic sta allestendo a San Francisco un laboratorio di ricerca biofarmaceutica governato dalla sua IA, riuscendo così a realizzare i rischi per i quali invoca l’intervento statale affinché tali rischi siano scongiurati.

Come ha ben sintetizzato Jensen Huang, Ceo di Nvidia, sarebbe come se una casa automobilistica dichiarasse che sta costruendo una macchina sempre più veloce e pericolosa e, dopo averla messa sul mercato, invocasse lo Stato affinché emani norme che la vietano.

Il paradosso della narrazione apocalittica

Sembrerebbe tutto stranamente folle se con «intervento dello Stato» non si intendesse contemporaneamente azioni di salvaguardia delle posizioni dominanti, allentamento dei requisiti di bilancio per le aziende quotate e, soprattutto, istituzione di una «commissione di sorveglianza» con dentro i propri amici.

Ma esiste un altro piano paradossale che la narrazione apocalittica sta nascondendo e che merita attenzione, si tratta della stessa contraddizione che sta alla base del green per come concepito dai maestri dell’autolesionismo che hanno emanato le normative di decarbonizzazione consegnando di fatto la produzione industriale ai Paesi che aprono regolarmente nuove centrali a carbone.

Coloro che si dichiarano entusiasti transumanisti, convinti materialisti, orgogliosi consumisti e, soprattutto, indefessi scientisti, all’improvviso sposano la nuova – momentanea e tattica – linea dei «rischi dell’IA», dell’apocalisse dei computer assassini e dell’estinzione del genere umano.

E come Yuval Harari arrivò a Davos per dire che la stessa scienza che fino al giorno prima avrebbe «superato il problema della morte» all’improvviso diventa una minaccia in quanto «potrà interpretare il Talmud in maniera migliore degli uomini», i nipotini di coloro che orgogliosamente affermavano che il progresso consisteva nei «soviet più l’elettricità» adesso scoprono, con lo zio Bernie Sanders, che chi progetta robot che renderanno inutili i flussi migratori deve finire in galera per vent’anni.

Dal neoluddismo doomer alla nuova linea di faglia

Ad aggravare ulteriormente la spirale di paradossi gli stessi che fino a un minuto prima indirizzavano il mondo e dettavano i passi futuri fatti di sorveglianza, moneta digitale, superamento della proprietà privata e meticciato diffuso, all’improvviso si scoprono gli oppressi, quelli che si oppongono ai potenti e, pur parlando all’Onu tra gli applausi, rappresentano le voci marginali.

Ma se la fuoriuscita dal woke prende per ora le forme di un neoluddismo apocalittico da «doomer» sarà forse utile riordinare le categorie di base per indicare la nuova distinzione di faglia che governa i due mondi contrapposti.

Visione teologica contro IA oracolare

Ciò che si sta contrapponendo sono due visioni dell’IA alternative, molto diverse da quanto l’opinione comune creda. Coloro che in questi giorni hanno lanciato l’offensiva narrativa apocalittica non sono in realtà i veri «rallentatori», così come chi fa notare che le regolamentazioni imposte a tutti tranne che alla Cina sono inutili non sono i veri «accelerazionisti».

Il mondo woke che fa capo ad Anthropic e a OpenAI incarna in realtà una concezione «teologica» dell’IA e si percepisce come la casta sacerdotale che deve rapportarsi alla «divinità» in maniera esclusiva. Si tratta di persone convinte che la singolarità sia già stata raggiunta, che il mondo sarà praticamente «ricreato» dall’IA e che loro devono gestirne in maniera esclusiva – per quanto possibile – gli indirizzi etici.

Dall’altra parte ci sono coloro che credono nell’open source, nel controllo incrociato dei modelli e, soprattutto, nell’idea di base di non consentire mai all’IA di poter espandere le proprie funzioni al di fuori di un ambito delimitato per disegno.

Costoro sono i fautori della cosiddetta «IA oracolare» cioè di uno strumento che fornisce risposte senza poter arrivare a implementarle direttamente senza l’intervento umano; sono i fautori dell’«interruttore» e rappresentano quindi la parte «umanista» contro il transumanismo dei credenti al culto divino dell’IA. Forse il fatto che in Vaticano questa distinzione non sia così chiara rappresenta l’ipotesi ottimistica.