«Più scuola e famiglia per salvare i ragazzi dal lato oscuro e nascosto di IA, social e Web»

Dottoressa, in che modo oggi veniamo manipolati?

«Avendo osservato il Web negli ultimi vent’anni, avendo contribuito anche alla creazione di molte piattaforme e lavorato per grandi aziende, posso dirvi che oggi tutta la Rete gira con la stessa tecnologia con cui i la pubblicità ci sa riconoscere e sa prevedere che cosa ci interessa a fini commerciali. Per questo il mio libro si intitola Pubblicità oggi. Prendiamo per esempio i nostri news feed: sapete quando facciamo swipe left e andiamo a sinistra dei nostri telefoni? Ecco, quello è un ambiente regolato da sistemi pubblicitari che vogliono prevedere cosa ci può interessare. Poi ci sono i sistemi di e-commerce, applicazioni come Temu o anche Amazon. Un terzo delle ricerche e degli acquisti su Amazon avviene tramite il loro motore di ricerca, c’è un elemento molto persuasivo a livello algoritmico che influisce sul modo in cui acquistiamo le cose online. Ormai non cerchiamo più nel Web, non andiamo più a navigare in una sorta di ecosistema neutro dove possiamo cercare e poi farci le nostre idee: il 60% delle ricerche online oggi, questo è un fatto, avviene senza un click aggiuntivo.”

Che significa?

«Che le persone guardano quello che l’algoritmo, il sistema e l’intelligenza artificiale fornisce loro dopo che hanno posto una domanda. Dopodiché non cercano più niente. Significa che c’è un grosso cambiamento culturale nell’utilizzo del Web da parte della nostra società. Un cambiamento di molto preoccupante dal mio punto di vista».

In pratica lei sta dicendo che il Web è un’enorme macchina pubblicitaria che lavora sulla profilazione e quindi anche sulla manipolazione. Ogni volta che cerchiamo un contenuto, stiamo in realtà regalando qualcosa di noi. Nel libro parla di tassa dell’attenzione: ogni anno regaliamo senza saperlo circa 100 euro al sistema di cui sopra.

«Non amo la parola manipolazione perché penso che sia in un certo senso fuorviante. Più che altro mi piace usare la parola persuasione perché il Web, al momento, ha un obiettivo preciso, un obiettivo che prima era caratteristico della pubblicità ed era in qualche modo isolato o marcato. Oggi, invece, questo obiettivo è condiviso da tutte le piattaforme: tutti gli ecosistemi su cui navighiamo cercano di fare una cosa molto semplice, cioè di tenerci collegati più tempo possibile al fine di monetizzarci, al fine di trarre soldi dalla nostra attenzione».

E questo è in parte noto.

«Sì , fin qui lo sappiamo tutti. Il tema è che, siccome c’è una quantità di contenuti impossibile da navigare per un essere umano, ci vogliono sistemi che ci diano una mano a esplorare questa mole di informazioni, nel farlo però si creano dei problemi, che riguardano appunto la persuasione».

Come funzionano questi sistemi a cui fa riferimento?

«Io lo chiamo framework delle quattro A o l’A4. La prima A sono gli algoritmi che organizzano le informazioni. Poi c’è la analisi de dati: le informazioni che il Web prende da noi in base a quello che facciamo. Tutte le volte che clicchiamo, guardiamo un video eccetera, stiamo dando degli input al sistema. La terza A sono le aste: la nostra attenzione viene venduta in tempo reale. Ogni piattaforma, quando facciamo qualcosa sul Web, vuole farci vedere un altro contenuto relativo a quella cosa per tenerci collegati. Infine, e questa è la grande novità, l’ultima A dell’IA: l’intelligenza artificiale. Che fa due cose: rende le prime tre A più intelligenti e poi ci risponde. E qui entrano in gioco i chatbot e i vari sistemi persuasivi».

Ciò che sta descrivendo è un problema anche per la nostra libertà e la nostra capacità di pensiero. Se ci vengono proporti contenuti sempre simili a quelli che abbiamo già cercato, significa che siamo bombardati dallo stesso tipo di informazioni e restiamo in qualche modo sempre all’interno di binari prestabiliti. Ci precludiamo una parte dell’esistente.

«Sì, è vero. Effettivamente quello che succede è che nei primi 3-4 secondi di interazione con le piattaforme – che si tratti di Temu, Shein, Amazon, il nostro Newsfeed, Google eccetera – già viene presa una decisione da parte dell’algoritmo su chi siamo, cosa abbiamo visto prima, cosa milioni e milioni di persone simili a noi vedono e vorranno vedere e i sistemi fanno una scommessa. La scommessa è: cosa faccio vedere a questa persona adesso? Cioè, qual è il passo successivo? L’Intelligenza artificiale non è altro che un grandissimo e potentissimo sistema predittivo: più informazioni tu hai dato alla piattaforma, più la piattaforma sa di te e può prevedere cosa ti potrebbe piacere. Il punto preoccupante è che non agisce solo in base a quello che noi abbiamo fatto. Con l’analisi dei dati paragona il nostro comportamento a quello dei profili simili a noi, milioni e milioni se non miliardi di profili simili a noi».

In sostanza ci vengono proposte cose che vengono sottoposte anche a tantissime altre persone con le nostre stesse caratteristiche.

«Questo è il ragionamento: Alessandra si comporta così perché è una donna di una certa età, con una figlia e con queste caratteristiche. Tutte le altre persone simili a lei agiscono in un certo modo, allora io le faccio vedere un contenuto che è relativo, non so, al fitness per quarantenni. Il problema è che questa proposta è estremamente – come diciamo in inglese – biased, crea un bias collettivo, un pregiudizio che dovrebbe essere regolamentato».

Insomma, il punto è che si crea una sorta di enorme conformismo. Si presuppone che tutte le persone come Alessandra di quell’età e con quelle caratteristiche agiscano in un certo modo. Ma è come una profezia che si auto avvera, perché milioni di persone saranno spinte a vedere un certo tipo di contenuti, ad accedere a un certo tipo di prodotti e informazioni… Un livellamento totale.

«Esattamente. Al momento online c’è un livellamento causato dagli algoritmi della profilazione, c’è un livellamento della qualità dei contenuti e c’è quello che gli inglesi chiamano IA slop: è tutto bellissimo ma tutto uguale. Gli articoli che vengono scritti con l’IA sono tutti scritti bene ma sono tutti uguali, i contenuti di questi influencer finti che finiscono online sono tutti uguali, hanno tutti le stesse facce, sono tutti caucasici, alti e snelli… La realtà è che c’è un bias incredibile e molto spaventoso creato dagli algoritmi. Dobbiamo ricordarci quale è lo scopo del Web: non è neutro, ci monetizza. E poi c’è un altro tema: all’inizio, l’Intelligenza artificiale prendeva i dati da tutti noi, dalla nostra conoscenza collettiva. Li ha rubati per fare training. Ma adesso la gran parte delle informazioni che ci sono online è stata creata essa stessa dall’IA. È come se si ruminasse la stessa erba, non so come dire».

Quello che dice è in effetti preoccupante. Se un adulto, forse, può anche difendersi dal livellamento che lei ha descritto, un ragazzino o una persona con meno alfabetizzazione digitale hanno decisamente meno capacità di difesa. Dunque che umanità produrremo da qui a qualche anno?

«Agcom ha fatto una ricerca che ritengo fondamentale. Ha visto che circa il 65% degli italiani ha una nulla o scarsa alfabetizzazione algoritmica. Quindi non sa perché i social, una piattaforma, fanno vedere un contenuto, come smettere di vederlo e quali sono gli effetti di questo contenuto».

Più della metà della popolazione non capisce come funzioni il sistema. Il che è anche comprensibile.

«Se poi andiamo a vedere la popolazione più giovane, il tema è che c’è l’illusione di avere una maggiore comprensione. Salvo che poi in quella fascia di popolazione manca lo spirito critico. Quello che noi abbiamo imparato a scuola. E se questo spirito viene a mancare, il pericolo è grande».

Giusto, allora, proibire l’uso dei social ai minori?

«La questione principale è: come verrà applicata questa restrizione? Come verrà applicata dalle piattaforme, come verrà usata dalle famiglie? Bellissimo il fatto che ne stiamo parlando, ma siamo più o meno dieci anni in ritardo con queste misure. In più, se guardiamo il dettaglio ad esempio della misura proposta nel Regno Unito, vediamo che non comprendono i sistemi di messaggistica, vale a dire Whatsapp e simili. Abbiamo chiuso una porta ma il portone è completamente aperto, perché all’interno di questi sistemi di messaggistica si insidiano i chatbot e i chatbot sono estremamente insidiosi perché, lo sappiamo, hanno la possibilità di risponderti subito, sono dappertutto, cercano di darti ragione in continuazione, vivono in questi sistemi che non hanno alcuna regolamentazione, non c’è un modo per un genitore di spegnere il chatbot che è dentro il Whatsapp del ragazzo. Il quale ha accesso a tutto il Web in un sistema persuasivo implementato come chatbot comunicativo, senza nessuna regola, senza nessun aiuto. Bene le leggi, ma siamo molto in ritardo. Il problema secondo me fondamentale è che i genitori e gli insegnanti oggi sono in prima linea e non hanno la benché minima idea di come funzionino davvero certi sistemi. Ed è lì che dobbiamo intervenire».