Filosofo, politologo, ex deputato per la sinistra, Carlo Galli è da sempre un acuto interprete dei fenomeni sociali e politici. Il Mulino ha appena pubblicato il suo saggio Tecnica. È uno sforzo di ricordare ai lettori che, dietro il progresso, non c’è nulla di inevitabile. C’è una scelta, c’è una decisione, c’è una volontà. Una volontà di potenza.
Professore, lei spiega che la «svolta algoritmica» dell’intelligenza artificiale coincide con un modo di leggere la realtà come una «immane tautologia», in virtù della quale «il reale può dire sé stesso senza che sia necessario metterlo in forma con la teoria». Ci aiuta a capire?
«È il sogno di alcuni degli apologeti dell’Ia, che secondo loro dovrebbe sostituire niente meno che la mente umana. Ma l’intelligenza artificiale è una tecnica elettronica che si aggiunge a quelle meccaniche: una tecnica dalle molte conseguenze, certo, ma dopo tutto una tecnica. E poi, siamo sicuri che sia corretto chiamarla “intelligenza”?».
Chiedersi se la macchina pensa non ha senso?
«È una domanda mal posta: ci fa credere che sia anche solo possibile paragonare la macchina e l’uomo. Il che vuol dire che non abbiamo un’idea chiara di che cosa significhi pensare. Se pensare significasse computare, saremmo già stati sconfitti dalle macchine. Se pensare ha a che fare con il criticare e con l’immaginare, la macchina non penserà mai».
La novità dell’Ia, quindi, è incrementale ma non sostanziale?
«Il percorso a ritroso nella storia della tecnica, che compio nel libro, mi ha fatto capire che essa ha accompagnato da sempre l’evoluzione umana, evolvendo essa stessa. Ma la tecnica non evolve automaticamente. Evolve perché qualcuno decide che debba andare in una direzione piuttosto che in un’altra. Per cui la tecnica è certamente universale, generale, ma non è necessaria nel senso che si sia sviluppata nell’unico modo possibile. Ecco perché c’è una differenza tra invenzione e innovazione».
Quale?
«L’invenzione è un evento isolato; innovare, invece, significa inserire le invenzioni all’interno di un sistema sociale. E questa è una decisione che viene presa da qualcuno per certi scopi, che sono sempre scopi di potenza economica o politica. Dalla storia impariamo questo: la tecnica non è oggettiva, è soggettiva. È prodotta da volontà. Dentro un oggetto tecnico ci sono le logiche di una società. Quello che, in un dato momento, i poteri dominanti dell’epoca hanno voluto che si sviluppasse».
Lo stesso vale per l’Ia?
«Certo. Neppure l’Ia è il prodotto automatico di un’evoluzione. Nasce da certe scelte e da certe idee su come funziona la mente umana. E le forze che spingono per il suo sviluppo sono quelle che già governano il mondo: i poteri politici e i poteri economici. Anche l’Ia incorpora le logiche politiche ed economiche della società, che in questo caso sono le logiche del capitalismo e del potere politico e amministrativo. Per fare un esempio, la burocrazia non agisce più attraverso i faldoni di carta bensì attraverso i sistemi elettronici, ma l’obiettivo è sempre quello: conoscere, amministrare, controllare i cittadini».
Non c’è un elemento in più nella «svolta algoritmica»? Ossia, la pretesa di ridurre la realtà stessa a quella combinazione di dati?
«La potenza della tecnologia elettronica sta proprio in questo. La tecnologia meccanica ha bisogno di maneggiare fisicamente le cose e le persone; l’altra traduce la realtà in impulsi di elettroni. Che cos’è un essere umano per la tecnologia elettronica? Un insieme di tracce sopra uno schermo. Un insieme di dati che l’interessato ha fornito gratuitamente e più o meno inconsapevolmente, e che l’algoritmo ha poi processato. Ma l’individuo, qui, sparisce: è un insieme di impulsi elettronici che gli corrispondono. Ecco la novità della tecnologia elettronica: il raddoppiamento totale del mondo».
Il raddoppiamento del mondo?
«Sì. L’applicazione dell’elettronica a ogni ambito della realtà significa che, tendenzialmente, la realtà scompare nella propria rappresentazione elettronica».
È da qui che nasce il nostro straniamento? La nostra difficoltà di distinguere il vero dal falso, fino all’inquietante spettacolo del deepfake?
«Certo. La realtà sdoppiata ci viene messa davanti tutti i giorni. E questa duplicazione del mondo, che sembra innocua, ingenua, se non addirittura progressista, è invece infinitamente passivizzante. Quando forniamo dati, anche se stiamo interrogando il computer, in verità siamo sempre passivi. Non possiamo fare altro che obbedire alle logiche che qualcuno ha introdotto nel computer. E, se non le seguiamo, il computer non ci lascia proseguire. Il problema è che così abbiamo perso l’abitudine a fare, e ad agire».
In che senso?
«È il computer che fa per noi; è il computer che traduce la realtà in elettroni e poi ce la restituisce secondo il suo formato. Il tutto avviene senza che noi capiamo niente - a meno che non siamo ingegneri elettronici - e soprattutto senza che facciamo niente».
Il soggetto agente, allora, è una parvenza; la realtà è che siamo oggetti agiti?
«Non siamo nemmeno oggetti. Siamo una funzione elettronica, che rilascia dati e verso la quale vengono proiettate immagini elettroniche. Così perdiamo ogni criterio di verità. Non riusciamo a dire che una certa immagine - una foto, un video - è un fenomeno, e la vera realtà è un’oggettività trascendente. Non riusciamo nemmeno a dire che l’immagine è un fake poiché non risponde a certi canoni scientifici di correttezza e di misura. Non possiamo dire che l’immagine è vera o falsa, perché non l’abbiamo fatta, prodotta: noi non facciamo quasi più nulla, tutto ci piomba addosso».
Ricapitoliamo: dietro la tecnica c’è sempre stata una volontà di potere, o di utile. La novità è che la filosofia che anima molti dei campioni odierni dello sviluppo tecnologico tende a occultare questa realtà e a presentarla come un’evoluzione necessaria e autonoma.
«E infatti tutte le narrazioni apologetiche del fenomeno lo trattano come se non esistesse alcuna questione di dislivello di potere, tra i pochi che producono microchip e algoritmi e i moltissimi che restano solo passivi».
Che ne pensa del pericolo che l’Ia diventi autocosciente e si metta a combattere l’umanità?
«È una falsa pista. Le sembra sensato dire che l’Ia è una minaccia per l’occupazione? Una minaccia sarà semmai l’imprenditore che la applica allo scopo di avere meno lavoratori da pagare. Il vero punto che dobbiamo cogliere, allora, è che non esiste la tecnocrazia; esiste la kratía, ossia il potere di coloro che investono sulla tecnica».
I tecnocrati, quindi, non sono coloro che contribuiscono a realizzare un processo oggettivo, bensì coloro che impongono logiche che rispondono ai loro interessi.
«La tecnica non è neutra. E la sua finalità è sempre stata di accrescere la potenza di chi possiede quello strumento. Potenza economica, cioè profitto; oppure potenza politica, cioè tecnica come campo di battaglia tra grandi potenze, che mediante la tecnica fabbricano le armi. Ovviamente, se a gestire questo processo sono gli Stati, si può pensare che i cittadini esercitino qualche forma di controllo attraverso la democrazia. Ben diverso è quando di fatto comandano enormi poteri privati».
La soluzione qual è?
«L’antidoto è la democrazia. L’Unione europea ha provato a governare alcuni aspetti dell’intelligenza artificiale, anche se non è andata molto in là. Moltiplicando questo sforzo si possono, ad esempio, rendere di proprietà pubblica le immense raccolte di dati che adesso appartengono alle piattaforme private».
È realistico?
«Non sto proponendo di tornare al comunismo sovietico. Però avremo pure qualche strumento per governare l’economia. La politica davvero non è capace di pensare a una finalità della società che non sia l’arricchimento di qualcuno? E noti che ho usato il verbo “pensare”…».
Perché?
«Perché la politica è, prima di tutto, produzione di pensiero su alternative molteplici, magari conflittuali. Non è politica quella che dà per scontata una sola linea di sviluppo, una sola realtà. Questo è quello che fanno gli apologeti dell’intelligenza artificiale: proiettano nel futuro, portandolo al 100%, quello che oggi esiste già, magari al 60%, senza un minimo di fantasia. Come nel discorso della signora Margaret Thatcher: there is no alternative. Non c’è alternativa. Ma l’alternativa deve esistere: si chiama libertà».
