«L’Ia viola le leggi e i nostri diritti»

Daniela Tafani, docente di Filosofia politica all’Università di Pisa. Perché si occupa di intelligenza artificiale?

«Perché i sistemi di intelligenza artificiale sono artefatti, prodotti del lavoro umano. E possono avere proprietà politiche. Danno e tolgono potere e possibilità ad alcune persone, per conto di altre persone».

L’intelligenza artificiale sostituirà quasi del tutto l’essere umano, visto che di fatto ragiona come lui?

«Chiamiamo “intelligenza artificiale”, tra gli altri, i sistemi di apprendimento automatico. Non ragionano affatto, sono piuttosto statistiche automatizzate. Stefano Quintarelli propone di chiamarli approcci sistematici agli algoritmi di apprendimento e alle inferenze delle macchine: in inglese, l’acronimo è Salami. Le verrebbe in mente di chiedersi se i Salami abbiano una coscienza o capiscano quello che scrivono? O possano sostituirci?».

Irridente.

«Oggi esistono soltanto sistemi di intelligenza artificiale “debole o ristretta”. Eseguono uno o pochi compiti specifici. Funzionano per i compiti particolari per i quali sono stati programmati. Ad una condizione: che ciò che incontrano non sia troppo diverso da quello che hanno sperimentato in precedenza. Non esiste invece alcun sistema di intelligenza artificiale “generale o forte”, in grado di eseguire, in modo integrato, le azioni che gli esseri umani compiono invece facilmente, senza nemmeno farci caso. Nessuno, oggi, ha idea di come realizzare l’intelligenza artificiale in senso proprio. Chi la annuncia come prossima, lo fa per ragioni di marketing. E anche per esercitare un potere e sfuggire alle proprie responsabilità. Annunci a noi familiari solo perché abbiamo visto qualche film o letto qualche romanzo di fantascienza».

Lei parla di intelligenza artificiale sub-simbolica rispetto a ciò che c’era prima. Di tipo simbolico. O sbaglio?

«Approcci che convivono. L’approccio simbolico deriva dalla logica e procede attraverso la manipolazione di simboli. Poiché richiede che il programmatore scriva quello che la macchina deve fare, non consente di trattare funzioni, quali il riconoscimento delle immagini, delle quali non siamo in grado di esplicitare tutte le regole che pur seguiamo. Le faccio un esempio: nessuno di noi saprebbe elencare tutte le caratteristiche che ci consentono di distinguere un cane da un gatto, malgrado abbiamo imparato facilmente a farlo, fin da bambini, in modo istantaneo e infallibile. I sistemi sub-simbolici di apprendimento automatico (machine learning) non richiedono invece simili istruzioni. Sono sistemi di natura sostanzialmente statistica, che consentono di costruire modelli a partire da esempi».

Non colgo la differenza. Colpa mia, sicuro.

«Non sono “istruiti” dal programmatore, ma sono calibrati statisticamente per partire dai dati. Nell’esempio di prima, partono da milioni di immagini di cani e di gatti, etichettate come tali da esseri umani. È all’intelligenza artificiale sub-simbolica che si devono i più recenti progressi nello svolgimento di compiti quali la traduzione automatica, il riconoscimento facciale, la ricerca per immagini o l’identificazione di contenuti musicali».

Pur sempre qualcosa di sovrumano, su!

«I sistemi informatici svolgono singole funzioni con maggiore velocità e potenza. Di certo anche la sua lavatrice lava le lenzuola molto più rapidamente rispetto a quanto farebbe lei. Direbbe che la sua lavatrice è sovrumana?».

Non lavandole a mano, non so…

«Vede, l’antropomorfizzazione delle macchine è una tendenza spontanea, ma è anche coltivata e indotta da una narrazione che le grandi aziende tecnologiche finanziano, per perseguire obiettivi aziendali: se un prodotto viene presentato come un essere animato, con prestazioni e difetti simili a quelli degli esseri umani, chi lo smercia può sfuggire alle sue responsabilità. C’è addirittura chi sostiene che per i danni prodotti, ad esempio, dalle auto “a guida autonoma”, dovremmo prevedere una “responsabilità distribuita” tra i produttori e le vittime».

Lei sostiene che l’intelligenza artificiale è prodotta da quei player il cui modello di business è «la sorveglianza».

«È un derivato della sorveglianza. La costruzione dei sistemi di apprendimento automatico richiede potenti infrastrutture di calcolo ed enormi quantità di dati nella disponibilità dei soli giganti della tecnologia. Grazie ad un modello di business fondato sulla sorveglianza, sono già attrezzate per intercettare grandi flussi di dati e metadati individuali. E hanno le infrastrutture computazionali per la raccolta e l’elaborazione di tali dati. Questa sorveglianza viola i nostri diritti e ci danneggia. Perciò, come è già accaduto, ad esempio, col tabacco, le aziende finanziano una famiglia di narrazioni: tra queste, l’idea, del tutto infondata, che ci sia un vuoto giuridico e che i nostri diritti non valgano se chi li sta violando usa un’app, per violarli».

Quindi un qualcosa che di fatto infrange la legge che c’è ora. Lei sostiene!

«Sì, una “bolla giuridica”, come la chiama Marco Giraudo. Una generale violazione di diritti giuridicamente tutelati. Una narrazione che ci ha impedito, fin qui, di constatare che le aziende stanno violando leggi vigenti, applicabili anche ai nuovi prodotti. Le aziende affiancano alla tradizionale “cattura del regolatore” – ossia alle azioni delle lobbies per ottenere che la regolazione giuridica non nuoccia al loro modello di business – la cattura culturale: con un’operazione di propaganda, si ottiene che il regolatore e l’opinione pubblica condividano in partenza l’impostazione desiderata e che chiunque esprima preoccupazioni sia etichettato come retrogrado o luddista».

Tra i sistemi «fuorilegge» lei include l’uso dell’intelligenza artificiale in chiave predittiva…

«Nei sistemi di ottimizzazione predittiva, si utilizza l’apprendimento automatico per prevedere il futuro di singoli individui e prendere decisioni conseguenti: gli studenti vengono valutati sulla base del voto che si prevede riceverebbero se sostenessero l’esame. I candidati a un posto di lavoro vengono assunti o scartati sulla base di una previsione della loro futura produttività. La polizia si affida a statistiche automatizzate per prevedere chi commetterà un crimine o dove un crimine verrà commesso e agire di conseguenza».

Il film Minority Report!

«Questi sistemi non sono in realtà in grado di prevedere il futuro di singole persone, per la semplice ragione che è impossibile. Credere in ciò equivale a nutrire la convinzione – caratteristica delle antiche attività divinatorie e, oggi, dell’astrologia – che il futuro sia già scritto e leggibile. La decisione produce ciò che si pretende di prevedere: se predico che solo nei quartieri più poveri si spaccerà droga e mando solo lì la polizia, è solo lì, ovviamente, che la polizia troverà qualche reato da perseguire. Con il passaggio dalla previsione alla decisione, la profilazione sociale dunque si autoavvera, legittimando così i pregiudizi incorporati nella descrizione statistica iniziale».

Profezie che si autoavverano…

«L’impiego dei sistemi di ottimizzazione predittiva è incompatibile con lo Stato di diritto. Possiamo prevedere che il latte nel frigorifero andrà a male in una settimana, ma assumere di poter prevedere il comportamento umano con la stessa precisione equivale a trattare le persone come “cose” incapaci di scegliere, anziché come persone capaci di autodeterminarsi. Siamo trasformati in un flusso di dati e non possiamo sapere in anticipo quali aspetti del nostro comportamento, delle nostre caratteristiche o della nostra identità faranno sì che un sistema ci associ a una certa categoria o etichetta. Sa che l’antropologo ed economista Brett Scott ha scoperto di essere stato etichettato, in una classificazione automatizzata, come potenziale “mamma a basso reddito”? Con le immaginabili conseguenze, tra gli altri, nell’ambito creditizio».

Si può evitare la discriminazione nell’utilizzo dell’intelligenza artificiale?

«Irrilevante, per i sistemi di ottimizzazione predittiva. Se un sistema non funziona, perché non è possibile che funzioni, il fatto che il suo impiego produca discriminazioni non è di alcun rilievo. Se dall’insieme dei pixel della foto di una persona non è possibile prevedere se quella persona sarà una brava lavoratrice, questa previsione resta impossibile anche se la cospargo con la polvere magica dell’intelligenza artificiale. Se il sistema, ad esempio, formulasse previsioni che svantaggiano le persone bionde, dovrei preoccuparmene? No, perché se anche eliminassi il pregiudizio contro le persone bionde, otterrei al massimo un sistema non discriminatorio verso le persone bionde e tuttavia, come prima, non funzionante, ossia non capace di prevedere il futuro dei singoli individui. In ogni caso, quel sistema non deve essere utilizzato».

L’etica nell’utilizzo può aiutare?

«L’etica non c’entra. Si tratta di prodotti fuorilegge, i cui produttori cercano di convincerci che il diritto vigente non si applichi ai loro sistemi “intelligenti” e che servano perciò nuove leggi. Le aziende parlano di “etica” per proporre che ci affidiamo al loro buon cuore e per sfuggire al diritto. Se la sua lavatrice le allagasse la casa, che penserebbe di un tecnico che le dicesse che in realtà la lavatrice funziona perfettamente e che le manca solo di diventare (grazie all’“etica delle lavatrici”) abbastanza buona da decidere di non allagarle la casa? Come le lavatrici, i sistemi di intelligenza artificiale sono artefatti, ossia oggetti. Non vi è motivo per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria».