L’Intelligenza artificiale ha già il suo primo pentito: «Vogliono sostituire Dio»

Continuare a parlare di Ai (Intelligenza artificiale), è una sottovalutazione pericolosa. C’è una corsa spasmodica a quella che gli addetti ai lavori chiamano Agi, ovvero «God like Ai». Sì, proprio così, un’Intelligenza artificiale «modello Dio», che gli scienziati definiscono come un computer capace di generare da solo nuova conoscenza scientifica e di svolgere qualsiasi mansione umana. Si tratta di «una corsa verso la catastrofe, che va rallentata e gestita dai governi». E a dirlo è un esperto del settore, che negli anni ha investito in oltre 50 società che si occupano di Ai. Si chiama Ian Hogarth, è inglese e ha scritto per il Financial Times una lunga analisi da un mondo che oggi gli genera «profonda paura».

Hogarth, ingegnere laureato a Cambridge che ha fatto i milioni con un’app per trovare i concerti (Songkick), racconta di una cena londinese alla quale ha partecipato una sera di febbraio come investitore. Si è trovato in mezzo a ricercatori ed esperti di Ai, alcuni molto utilizzati dall’industria, ed è tornato a casa terrorizzato. Aveva fatto una semplice domanda: «Quanto siamo lontani dall’Intelligenza modello Dio?». Gli è stato risposto che il traguardo è «da ora in avanti».

Hogarth racconta che l’obiettivo Agi è ormai lo scopo dichiarato delle società leader del settore e che queste si stanno muovendo velocemente. «Come ognuno ha ben compreso a quella cena», riporta nell’articolo, «questo sviluppo porterà rischi significativi per il futuro della razza umana». Senza che nessuno si curi realmente di avvertire i cittadini e senza che via sia un governo democratico del processo. Questa corsa, al momento, è nelle mani di un piccolo gruppo di aziende private, impegnate a raccogliere capitali e ad arrivare prime al traguardo di un computer che non avrà più bisogno di noi. Se non come strumenti.

L’autore del manifesto-denuncia traccia un proprio identikit di Agi: «Un computer super intelligente che impara e si sviluppa autonomamente, che capisce il suo ambiente senza bisogno di supervisione umana e che può trasformare il mondo attorno a sé». Non ci siamo ancora, ma dalle sue analisi potremmo anche esserci vicini, e si tratterebbe di «una forza fuori controllo e incomprensibile, capace di portare la razza umana a obsolescenza o distruzione».

Il problema più grave, per Hogarth, è che questa corsa privata all’Agi mira a un traguardo oltre il quale nessuno sa cosa ci sia esattamente.

Per carità, i risultati raggiunti sono notevoli e non necessariamente negativi. L’autore dell’articolo non rinnega la sua passione e ricorda che con l’Ai si può passare l’esame da avvocato, battere un campione del mondo di scacchi, scrivere il 40% di un software anche complicato e inventarsi una foto realistica del Papa con un morbido piumino bianco. Ma ci sono usi meno simpatici e Hogarth ricorda che questa smisurata capacità di calcolo può insegnare anche a sviluppare armi chimiche.

Al momento la competizione più serrata è tra la londinese DeepMind e OpenAi di San Francisco, un po’ sul modello di Steve Jobs e Bill Gates dei bei tempi. Hogarth, da bravo investitore, ha un approccio pragmatico e si guarda bene dal criminalizzarle. Prova a capire che hanno in mente, atteso che tutta l’attenzione su videogiochi e chatbot (software che simulano conversazioni umane) ha sicuramente distratto il grande pubblico. L’opinione che si è fatto è che all’inizio, una decina di anni fa, ci fosse una certa coscienza dei rischi di Agi. Ma ora le cose sono cambiate: «Sulla base di conversazioni che ho avuto con molti capi azienda, ci sono tre aspetti fondamentali. Pensano sinceramente che un successo sarà enormemente positivo per tutta l’umanità. Sono convinti che se la loro organizzazione sarà quella che controlla l’intelligenza modello Dio, sarà cosa buona per tutti. E vogliono passare alla storia».

Se questa è la situazione, ecco che cosa bisognerebbe fare per fermare la corsa al disastro secondo il nostro «pentito», che non esclude la possibilità che sia la Cina ad arrivare per prima a questo maledetto traguardo. Un modello da prendere come riferimento per l’Ai sarebbe quello dell’ingegneria genetica, dove i governi sono intervenuti con severità, anche con accordi internazionali, per impedire pratiche disumane, immorali o pericolose. Insomma, un modello che parte da un’etica condivisa e arriva a controllare ciò che si può, dagli esperimenti ai farmaci.

L’altro modello è quello che l’autore chiama «The Isle», l’isola, e parte dalla considerazione che le politiche di allineamento del business agli standard etici da parte delle singole aziende sono insufficienti e spesso semplice maquillage. In questo scenario, che diventa una proposta concreta, tutti gli scienziati e gli esperti che stanno lavorando per arrivare al computer-Dio dovrebbero stare in un unico posto ultrasicuro e controllato. In questo modo, tutti gli altri tentativi di arrivare all’Agi diventerebbero automaticamente illegali. E Hogarth aggiunge che quando da «The Isle» esce un prodotto sicuro, può essere commercializzato. Come le medicine. Se vogliamo è anche un po’ il modello del Cern, che funziona da 70 anni.

«Capisco bene che la gente vuole credere a qualcosa che sconfigga il cancro, la povertà e i cambiamenti climatici», scrive Hogarth, ma se non rallentiamo questa corsa al computer divino rischiamo di estinguerci.