L’esperimento ha un nome in codice, Operazione Laser, e per quasi dieci anni, dal 2011, trasforma Los Angeles in un banco di prova continuo per la polizia predittiva. La scena si ripete ogni giorno. Un agente apre il «Chronic Offender Bulletin» generato da Gotham, il software che Palantir - l’azienda di Peter Thiel - ha fornito al comune di Los Angeles e che setaccia i database del dipartimento di Polizia in cerca di arresti, affiliazioni a gang, persino semplici contatti con gli agenti, e assegna un punteggio di rischio a centinaia di persone. Ne esce una lista quotidiana di nomi e volti. La direttiva è trovare questi individui, fermarli, interrogarli e, se serve, arrestarli. La base dell’intervento, in sostanza, è una stima di rischio calcolata dal sistema.
Il software di Palantir promette alla polizia ciò che finora apparteneva alla fantascienza e alle trame di film come Minority Report: usare l’analisi predittiva per scongiurare i reati prima che vengano commessi. L’idea arriva proprio dal racconto di Philip K. Dick del 1956, esploso poi con il film di Steven Spielberg del 2002. In quella storia tre precognitivi, Agatha, Arthur e Dashiell, fluttuano nel «Tempio», il cuore del dispositivo. Tom Cruise è John Anderton, capo della sezione PreCrime di Washington, e la sua squadra, guidata dalle visioni dei tre sensitivi, blocca gli omicidi giusto un attimo prima dell’atto arrestando i potenziali assassini. A Los Angeles il precog prende la forma di un algoritmo, Gotham. Il copione distopico immaginato da Dick, un apparato che sposta il bersaglio dalle azioni alle intenzioni, diventa un protocollo operativo di polizia, come detto, dal 2011. Anni dopo, diverse inchieste giornalistiche e la pressione dei gruppi per la difesa dei diritti civili mostreranno che i dati utilizzati sono spesso imprecisi e pieni di pregiudizi, e il programma verrà cancellato. Per un lungo periodo, però, la città californiana lo mette alla prova sul campo. [...]
Quando al Los Angeles Police Department (Lapd) viene presentata per la prima volta, la proposta di Palantir suona allettante. Il dipartimento firma un accordo e da lì nasce Operazione Laser. L’acronimo, Los Angeles Strategic Extraction and Restoration, dal tono quasi militare, dice tutto. Dall’intervento degli agenti dopo un crimine, si passa alla selezione preventiva dei soggetti ritenuti a rischio, «estratti» dal tessuto sociale prima che agiscano. Minority Report è realtà. Per evitare la trafila degli appalti pubblici con obbligo di trasparenza, Thiel e l’amministratore delegato Alex Karp donano Gotham al Lapd tramite la Los Angeles Police Foundation, un’associazione non profit. In tal modo, il software entra in servizio senza un vero dibattito pubblico. L’operazione parte come pilota nelle divisioni urbane con più reati, come la Newton Division, e negli anni successivi si allarga ad altre zone, Hollywood compresa.
L’architettura dell’Operazione LASER è un meccanismo di profilazione automatizzato. Un’inchiesta di «BuzzFeed News», basata su centinaia di pagine di documenti interni del dipartimento di Polizia losangelino, ha svelato la logica del sistema. Gotham funziona come un collettore di dati. Vi vengono riversati i classici dati «duri», come arresti e condanne, ma soprattutto, e per la prima volta, un universo di informazioni «soft», ambigue e discrezionali, come le note compilate dagli agenti durante i fermi per strada, le cosiddette «schede di intervista sul campo», che spesso non portano ad alcuna accusa formale. A queste si aggiungono le affiliazioni a gang, reali o presunte, e l’intera rete di contatti personali e familiari di un individuo. Il software aggrega questi frammenti, trasformando informazioni non verificate in fattori di rischio, e produce il suo verdetto. Il sistema è a punti, con regole che non saranno mai rese pubbliche. A ogni persona è attribuito un punteggio, una traccia digitale che ne orienta il destino. Un arresto per crimine violento vale cinque punti, l’affiliazione a una gang, anche solo presunta, altri 5, come anche essere in libertà vigilata. Ma il vero moltiplicatore è altrove: anche un fermo con identificazione in una «zona calda» della città aggiunge punti, innescando un circolo vizioso in cui la sorveglianza genera altra sorveglianza. Chi supera una certa soglia di punteggio viene etichettato automaticamente come chronic offender. Il nome, il volto, l’indirizzo, la patente, la targa dell’auto e l’intera rete di contatti finiscono nel grande database di Gotham. Una lista di proscrizione aggiornata giorno per giorno.
Qui emerge chiaramente il nodo che inceppa ogni sistema di polizia predittiva: Palantir presenta Gotham come strumento neutrale, basato solo sui dati. Il Lapd, a sua volta, descrive l’Operazione Laser come un programma infallibile, libero dai pregiudizi. I riscontri sul campo, però, raccontano altro. L’algoritmo non è imparziale, perché viene addestrato su dati che riflettono la storia del dipartimento. Per decenni, la polizia di Los Angeles ha concentrato controlli e arresti nei quartieri «difficili» a maggioranza nera e ispanica. Gotham assorbe quella storia e la riproduce. In pratica, non prevede il crimine, ma indica dove la polizia avrebbe in ogni caso continuato a cercare, catalogando persone - in stragrande maggioranza giovani maschi - dentro quelle comunità. Ne esce un circolo vizioso: Gotham rispecchia e amplifica i pregiudizi del Lapd, dando loro una patina di scientificità, perché i dati arrivano da anni di pattugliamenti concentrati nelle aree povere a rischio. Il software di Palantir finisce insomma per legare il crimine a certi codici postali e a determinati gruppi demografici. Così, le liste dei chronic offenders contengono gli stessi nomi; le pattuglie, guidate dalle indicazioni, tornano nelle stesse strade; nuovi fermi e arresti rientrano nel sistema e rafforzano le «previsioni». Risultato: la pretesa e sbandierata oggettività finisce per fare da alibi a una pressione continua e opprimente su comunità già marginalizzate.