Nel libro di Nicoletta F. Prandi, l’intelligenza artificiale non è solo una tecnologia da regolare. Dai giocattoli ai robot domestici, l’Ia entra nella vita quotidiana come assistente. Ma può diventare anche uno strumento di sorveglianza, persuasione e guerra cognitiva.
Un militare corre sulla portaerei Charles de Gaulle e registra il percorso su Strava. Si tratta di un dispositivo per il fitness, nato per misurare passi e battito, ma che allo stesso tempo rivela la posizione di una nave da guerra.
Il governo cinese avverte che smartwatch, auricolari e altri oggetti indossabili possono diventare una minaccia per la sicurezza nazionale. E nel frattempo la Cia annuncia il primo rapporto d’intelligence scritto autonomamente dall’intelligenza artificiale. Le Nazioni Unite discutono di Ia militare. Il cielo, intanto, si popola di satelliti, sensori, data center in orbita.
È da qui che bisogna partire per leggere e raccontare Fuori controllo, l'ultimo libro di Nicoletta F. Prandi. Non dobbiamo iniziare da una generica paura delle macchine, ma da un fatto più concreto: la tecnologia che compriamo per comodità, salute, gioco o compagnia può trasformarsi in una infrastruttura di sorveglianza.
Il libro attraversa molti territori. Dalla dipendenza digitale ai chatbot, dalla manipolazione emotiva alla regolazione fino alla democrazia. Ma il suo centro più forte è nei capitoli 2 e 3, dove l’autrice sposta il discorso dall’uso individuale dell’intelligenza artificiale al suo impiego strategico. Qui l’Ia non è più soltanto un assistente che scrive testi, risponde alle domande o consola utenti soli e problematici. Diventa un’arma cognitiva. Uno strumento capace di osservare, profilare, persuadere, reclutare.
Il capitolo “Dal polonio al veleno digitale” dice già molto. Lo spionaggio del Novecento era fatto di intercettazioni, pedinamenti, agenti doppi, microfilm, veleni. Quello contemporaneo lavora su un materiale più sfuggente: attenzione, emozioni, opinioni, vulnerabilità. Non mira necessariamente a eliminare un nemico. Può bastare alterarne la percezione, orientarne le scelte, inserirlo in un ambiente informativo costruito su misura.
È qui che Prandi introduce una delle immagini più efficaci del libro: la giornata tipo di una spia virtuale. Non un agente in impermeabile, ma un sistema di intelligenza artificiale che scandaglia fonti aperte, profili social, conversazioni pubbliche, tracce digitali. Cerca segnali di frustrazione, ambizione, solitudine, debolezza economica, risentimento. Poi adatta il linguaggio, costruisce familiarità, misura le reazioni. La spia non forza una porta. Entra nella mente per approssimazioni successive.
Il punto non è stabilire se questo scenario esista già in quella forma compiuta. Il punto è che i suoi ingredienti sono già disponibili. I dati ci sono. I modelli linguistici anche. Le tecniche di persuasione sono note. Le piattaforme hanno abituato miliardi di persone a raccontarsi, cercare conferme, chiedere consigli, esporsi. L’intelligenza artificiale aggiunge scala, velocità e mimetismo.
Da qui nasce la nuova guerra cognitiva, che nel libro viene letta soprattutto attraverso il confronto fra Stati Uniti e Cina. Washington ha il vantaggio dell’ecosistema privato: piattaforme, cloud, università, big tech, industria della difesa. Pechino dispone di un’altra forza: integrazione fra Stato, aziende, manifattura, hardware, sorveglianza e robotica. Da una parte il mercato; dall’altra il coordinamento. In mezzo, le democrazie, costrette a difendersi senza diventare simili a ciò che temono.
È una delle domande più serie poste dal libro: fino a che punto una democrazia può usare strumenti di manipolazione per contrastare la manipolazione altrui? Se un algoritmo individua una persona fragile e la considera una potenziale fonte, siamo ancora nel campo dell’intelligence o siamo entrati in quello della predazione psicologica?
Il capitolo 3 rende il quadro ancora più inquietante perché lo porta dentro la vita quotidiana. Robot, device e giochi non sono più semplici oggetti. Sono sensori. L’Ia più pervasiva, suggerisce Prandi, non sarà quella visibile nella finestra di una chat. Sarà quella che smetteremo di notare: auricolari, occhiali, anelli, orologi, fasce per dormire, dispositivi per meditare, robot domestici, giocattoli intelligenti.
È la sorveglianza con il volto della comodità. Paghiamo per essere misurati. Vogliamo dormire meglio, correre meglio, respirare meglio, studiare meglio. In cambio cediamo dati sempre più intimi: battito, voce, posizione, sonno, stress, umore, attenzione. Il vecchio consenso informato appare insufficiente. Non basta più accettare una privacy policy se ciò che viene raccolto non è soltanto un dato, ma un indizio della nostra condizione mentale.
La parte sui giocattoli intelligenti è forse la più inquietante. Un peluche o un robottino dotato di Ia può parlare con un bambino, rispondere, ricordare, consolare, indirizzare. Ma può anche raccogliere conversazioni, generare dipendenza, trasmettere valori, incorporare propaganda. Quando l’ideologia entra nel giocattolo, la guerra cognitiva scende all’altezza di una cameretta di un bambino.
Prandi insiste su un punto decisivo: i bambini non hanno ancora gli strumenti per distinguere una relazione da una simulazione di relazione. Se un oggetto li chiama per nome, li ascolta, li gratifica, li intrattiene senza stancarsi, quel dispositivo non è più soltanto un prodotto. È un ambiente educativo privato, opaco, commerciale.
Il discorso sui robot domestici e umanoidi chiude il cerchio. Qui la Cina appare in vantaggio non solo per ambizione politica, ma per capacità industriale. Sensori, batterie, motori, catene di fornitura, fabbriche, dati del mondo fisico: sono questi gli elementi che permettono all’intelligenza artificiale di uscire dallo schermo ed entrare nello spazio. Un chatbot può persuadere. Un robot può ascoltare, muoversi, mappare una casa, interagire con corpi e oggetti.
È questa la forza di Fuori controllo: mostrare che la questione dell’Ia non riguarda solo server remoti e grandi laboratori. Riguarda il polso, l’orecchio, il salotto, la camera dei figli. La geopolitica non passa soltanto dai semiconduttori e dai cavi sottomarini. Passa anche dall’aspirapolvere che disegna la pianta di casa, dall’orologio che conosce il nostro battito, dal giocattolo che risponde a un bambino.
Il libro ha un tono allarmato, talvolta volutamente incalzante. Ma il suo merito è non fermarsi alla denuncia. La domanda che pone è politica: quale parte della nostra autonomia siamo disposti a cedere in cambio di efficienza, conforto, intrattenimento?
Nelle conclusioni, “Il cielo stellato sopra di me”, Prandi allarga lo sguardo allo spazio, alla difesa, all’uso militare dell’intelligenza artificiale. Dal chatbot al satellite, dal peluche alla portaerei, il filo è sempre lo stesso: il controllo non si perde tutto insieme. Si consegna un pezzo alla volta.
La spia del futuro, suggerisce questo libro, potrebbe non entrare di nascosto. Potrebbe arrivare in una scatola elegante, con un’app da scaricare e una promessa di benessere. E siamo stati semplicemente noi a volerla e a comprarla.
