L’algoritmo fa male alla salute del mondo. Detto da chi lo ha inventato, lo ha innalzato a totem della modernità globale e lo ha reso padrone delle nostre vite fa un po’ ridere. Ma questo accade e la lettera aperta firmata da Elon Musk e Steve Wozniak (cofondatore di Apple, stava nel garage con Steve Jobs) è lì da leggere. I concetti sono essenzialmente due. Il primo è riassumibile nel pericolo planetario dello «sviluppo dell’Intelligenza Artificiale incontrollata» da una scienza percorsa da fremiti da dottor Stranamore. Il secondo è fra virgolette: «Chiediamo uno stop. Laboratori ed esperti indipendenti dovrebbero decidere una moratoria di sei mesi e usare la pausa per implementare modelli di sicurezza contro effetti imprevedibili della tecnologia».
I sacerdoti della Silicon Valley vivono settimane difficili. Dopo aver assistito al crollo della banca delle meraviglie digitali sotto 16 miliardi di debiti hanno avvistato un altro incubo all’orizzonte: sta scappando il leone dal circo. Il moloch costruito un microchip alla volta rischia di ribellarsi, sfuggire al controllo e «competere con gli esseri umani». Per questo i due tychoon (ai quali da tempo si è aggiunto Bill Gates nel lanciare l’allarme) intravedono nella corsa a migliorare il Gpt-4 con capacità simili a quelle umane «gravi rischi per la società e l’umanità». E chiedono che «i potenti sistemi IA siano sviluppati solo una volta accertato con sicurezza che i loro effetti saranno positivi e i loro rischi gestibili».
Sotto la lettera un migliaio di dirigenti aziendali delle Big Tech, esperti internettiani, webmaster in bermuda, ignari dell’esistenza del Faust di JW Goethe e pure di Frankenstein Junior, hanno apposto firme tremolanti per via degli «effetti imprevedibili». Gli stessi che un monaco ortodosso abbarbicato sul monte Athos avrebbe potuto prevedere una decina di anni fa senza accendere lo smartphone. Anche lui aveva capito che l’Intelligenza Artificiale potrà competere con gli esseri umani non solo negli scacchi. Già il Gpt-4 più basico genera testi autonomi, produce sintesi di migliaia di pagine in pochi minuti, impartisce lezioni agli studenti, si trasforma in un tutor personale in grado di indirizzare a piacimento la conoscenza, fornisce soluzioni ai consulenti aziendali dragando lo storico delle società, crea siti web quasi in tempo reale partendo da «un diagramma scarabocchiato» (frase di Bill Gates). Le applicazioni civili e militari dell’ultima frontiera, rappresentata dalla startup OpenAi di San Franciasco (peraltro finanziata anche da Musk), sono infinite. Quelle di condizionamento della società diventano perfino elementari: basta accendere un telefono e siamo già tutti potenziali obiettivi, polli d’allevamento dell’era post gaberiana. Vittime inconsapevoli di fake news rovesciate da umani in malafede, stiamo per diventarlo dell’intelligenza artificiale tout court: la foto di papa Francesco con il piumino da trapper è stata creata con il sistema Midjourney (24 dollari al mese l’abbonamento). E quelle di Donald Trump arrestato, di Vladimir Putin in ginocchio da Xi Jinping e della fetta di salame scambiata per la stella nana Proxima Centauri confermano che il computer graphic non è solo uno strumento. E che la post-verità visuale non è solo una sgangherata forma d’arte.
In questi anni l’escalation digitale è stata feroce e pervasiva, contrappuntata dall’allegria infantile del ceto politico convinto che il giocattolo avesse solo effetti positivi dal perimetro limitato, come essere connessi al cugino in Alaska o farsi portare la pizza da uno schiavo ciclomunito. In barba alla privacy abbiamo regalato ogni dato personale a Google, Facebook, Instagram; ci siamo fatti profilare la marca di calzini, il vino preferito e le idee politiche; ci siamo trasformati da padroni a sudditi di ogni macchina possibile (anche della 500 hybrid con l’ID per la postura dei sedili). Ora sta arrivando il conto. E chi ci ha inondato di smartphone, di app, di startup inutili (una su un milione funziona, gli altri aprono agriturismi) adesso moraleggia: «Scusate, dobbiamo frenare per il vostro bene».
La lettera di Musk, Wozniak e del gregge digitale siliconvallico non ammette dibattito. Il bulldog di casa si sta ribellando e mostra i denti, la moratoria è necessaria. Così da integrati rischiamo di diventare apocalittici. «I laboratori AI e gli esperti indipendenti dovrebbero sviluppare protocolli di sicurezza condivisi per la progettazione e lo sviluppo di AI avanzate che siano rigorosamente supervisionati da esperti indipendenti esterni. Questi protocolli dovrebbero garantire che i sistemi siano sicuri al di là di ogni ragionevole dubbio». Non c’era allarme così percepibile neppure nel laboratorio di Wuhan una settimana dopo la fuga del virus. «Questo non significa una pausa nello sviluppo dell’Intelligenza Artificiale in generale», continua la missiva. «Ma dovrebbe rappresentare solo un passo indietro dalla pericolosa corsa verso modelli a scatola nera sempre più grandi e imprevedibili».
La IA può sfuggire al controllo e competere con l’uomo. La notizia campeggia su tutti i siti del globo, se fosse falsa saremmo già dentro un divertente Armageddon. Questo significa che, da buoni sudditi globali, ci accorgiamo del pericolo dell’ipertecnologia solo quando ad avvertirci sono gli scienziati pazzi che l’hanno resa mostruosa. E che al Nasdaq ogni mattina macinano miliardi esentasse o quasi.
Utili per comprare isole nei Caraibi dalle quali vedere sui monitor l’effetto che fa.
