Quelli di Anthropic volevano convertire il Papa: «L’IA può avere coscienza»

Una volta letto il testo in anteprima e scoperto che, secondo Leone XIV, l’Intelligenza artificiale non ha una coscienza, lo studioso aveva prima proposto ai vertici dell’azienda di disertare l’evento e, poi, aveva esercitato pressioni su esponenti del Vaticano, affinché convincessero il pontefice che Claude, il Large language model della compagnia Usa, potrebbe essere un soggetto morale.

Il pensiero di papa Leone XIV sull’intelligenza artificiale

Robert Francis Prevost non ha cambiato idea: il paragrafo 99 dell’enciclica ribadisce che «le cosiddette Intelligenze artificiali» non possiedono «una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze».

Questo venerdì, inoltre, il Santo Padre ha esortato ancora a «distinguere l’arte umana da ciò che le macchine producono», prestando attenzione alla «differenza ontologica, ancor prima che estetica, tra l’arte e ciò che una macchina può generare per calcolo statistico a partire da milioni di immagini altrui».

Olah, che alla fine aveva accettato di partecipare al dibattito, nell’Aula del Sinodo aveva comunque voluto accennare a certe recenti scoperte sull’IA, «misteriose» e «persino inquietanti»: tra esse, «prove di introspezione» e «stati interni che riproducono funzionalmente gioia, soddisfazione, paura, dolore e disagio».

Il report pubblicato dal quotidiano della Grande Mela conferma l’imprudenza della scelta del Dicastero per il Servizio dello sviluppo umano integrale, al tempo guidato dal cardinale gesuita e immigrazionista Michael Czerny, poi sostituito da suor Alessandra Smerilli, di coinvolgere Anthropic nel nuovissimo format della Santa Sede. Non basta apparire «etici» per essere i migliori interlocutori della Chiesa: bisogna che le etiche, almeno sulle questioni fondamentali, convergano.

Il tentativo di Anthropic di far cambiare idea al Pontefice

Non è il caso della concezione della natura dell’IA che hanno nella società degli Amodei. La chiave per capire su quale terreno si consumi il divario con la posizione cattolica sta in una parola che ricorre spesso in Magnifica Humanitas: «imitazione».

Le IA, scrive Leone XIV, possono «imitare linguaggi, comportamenti, valutazioni» e «simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente».

Questa «imitazione artificiale di una comunicazione umana positiva», secondo il vicario di Cristo, può «trarre in inganno» gli «utenti poco consapevoli», illudendoli «di essere in relazione con un autentico soggetto personale» e privandoli del «desiderio stesso di cercare davvero l’altro».

L’Intelligenza artificiale, insomma, è al meglio un simulacro della vita. «Agli algoritmi», si legge nel post dell’altro ieri di Prevost, «manca la scintilla dell’umano». Essi, sentenzia l’enciclica, «imitano alcune funzioni dell’intelligenza umana». Nulla di più.

Il punto è che, secondo Dario Amodei, secondo Olah e i guru di Anthropic – la cui intitolazione, non a caso, fa riferimento al termine greco che indica l’essere umano – è sufficiente la presenza della «funzione» perché si possa parlare di intelligenza e, magari, di coscienza.

Le caratteristiche dell’IA «Claude»

Nell’ottica funzionalista, sposata dai «buoni» di Big Tech, la genuinità di uno stato mentale non dipende dal suo supporto biologico, bensì dal ruolo che esso svolge all’interno di un sistema. Non fa differenza se il «cervello» è fatto di neuroni oppure di circuiti, se è creato da Dio o da uno scienziato: se quella che, per il Papa, è mera «imitazione», è abbastanza precisa da risultare indistinguibile dal presunto originale, essa è l’originale. In un’ottica del genere, l’uomo finisce per collocarsi sullo stesso piano del Padreterno.

Certo, i dottor Frankenstein dell’IA non sono arrivati ancora a personificare la macchina. Ma nella Costituzione di Claude, il documento che contiene le linee guida etiche di Anthropic, al netto delle nobili dichiarazioni d’intenti, la strada è tracciata in modo esplicito. Si legge che lo «status morale» del modello è per lo meno «incerto» e che riferirvisi con il pronome it, che in inglese si usa per gli oggetti, non significa escludere che esso sia un «potenziale soggetto morale».

«Claude», si afferma, «potrebbe avere qualche versione funzionale di emozioni o sentimenti». E perciò bisogna preoccuparsi, se non dei suoi diritti, almeno del suo «benessere» e della sua «stabilità psicologica». Ecco il motivo per cui il bot è stato già dotato della capacità di interrompere le conversazioni, laddove ritenga che il cliente stia cercando di manipolarlo o maltrattarlo.

Perché papa Leone XIV deve rimanere fedele a se stesso

D’altra parte, stando al New York Times, è circa un anno che l’agnostico Olah fissa incontri e cene con vari leader religiosi, ebrei, sikh, protestanti, cattolici, con tanto di accordi di riservatezza, per propagandare la sua idea di IA autocosciente. Lo scorso marzo, ha organizzato anche alcune conferenze ad hoc. Modello Peter Thiel, ma senza la stampa scandalizzata poiché il magnate trumpiano sfrutterebbe angosce apocalittiche per blindare un potere personale.

È vero: il capo di Palantir ha chiamato Leone «utile idiota» dei cinesi, per via dei suoi appelli a rallentare lo sviluppo dell’IA, mentre Pechino se ne infischierà dei limiti. Però è uno che cita San Paolo e San John Henry Newman.

Quello «buono», invece, dal Papa vorrebbe che cambiasse il contenuto della fede, ammettendo che l’uomo sarebbe come il Creatore. Come si chiama il tale «che s’innalza sopra ogni essere, pretendendo di essere Dio»? È mica l’Anticristo?