IA, un libro spiega perché adesso è diventato facile manipolarci

Era la prima manipolazione. Eppure sembra oggi, ma siamo ancora lì. Bisogna riconoscerlo: tocca difendersi, e non è una roba da ragazzi, con tutti i serpenti contemporanei nascosti nei programmi: paroline misteriose per entrare, uscire, fuggire, mentre il cielo è seeeempre più blu.

Il fatto, appunto, è che – ricorda l’autore – il punto è sempre quello: «Il serpente era un manipolatore, un seduttore». E tale rimane, millennio dopo millennio e oggi «è un esperto di scienza comportamentale». In effetti, precisa Sunstein, ad esempio «ChatGPT ha utilizzato alcune delle stesse tecniche del serpente. Ha promesso di rivelare segreti nascosti e di aprire gli occhi dei lettori».

Ma perché poi? Il serpente aveva i suoi programmi profondi, ma a che serve al libero cittadino inoltrarsi in questo casino? E qui il discorso si fa serio (ma lo era fin dall’inizio, anche se poteva sembrare tutt’altro). È infatti la società postmoderna con i suoi computer e la sua IA che ha una vocazione pervasiva, entra dappertutto, senza fare distinzioni tra categorie. Guardiamoci dunque attentamente, scientificamente, con Sunstein, nel mondo della manipolazione. Non è semplice distinguere tra curiosità, territori, elementi, corpi, anime: tutto è mobile, mischiabile, liquido ma anche solido, tenero ma anche perfido.

Non senza inquietudine, comincia così subito a prendere forma l’immagine della situazione reale, il vero volto del nostro fantastico mondo moderno: «Viviamo in un’epoca in cui la manipolazione è onnipervasiva, specialmente online. Se una società di social media può catturare la vostra attenzione, può far pagare qualcosa agli inserzionisti pubblicitari. E se è un inserzionista riesce a catturare la vostra attenzione, può riuscire a scucirvi un po’ di soldi. I politici vogliono i vostri soldi e i vostri voti e potrebbero riuscire a manipolarvi e farvi fare quello che vogliono». Tutto vero, naturalmente, perfino i giornali cercano di raccontarlo, non senza fatica. La manipolazione regna.

«Il problema principale, però, è che è improbabile che i manipolatori siano benigni o onniscienti»: il fatto che si dedichino alla manipolazione lo attesta. Soprattutto, però, ciò che più conta è, come ha notato l’acutissima intelligenza dell’economista Friedrich von Hayek, che smascherava già nel secolo scorso l’irrimediabile ignoranza di chi deve prendere le decisioni, e che «è la base principale dell’argomento alla base della libertà» come ha regolarmente dimostrato la questione dei vaccini.

Si può – anche – consentire eccezionalmente comportamenti pericolosi, però seguendo percorsi di restrittiva saggezza, come racconta il politologo T.M. Wilkinson in «Nudging and manipulation» (Political Studies, 61, 2013), commentando la richiesta di Ulisse ai marinai di tenerlo strettamente legato fino a quando le Sirene non avessero smesso di cantare chiedendo la libertà. Ulisse, con ragione, non si fidava del suo autocontrollo davanti al canto delle irresistibili sirene e quindi obbligava i suoi marinai a legarlo.

Come si vede, le reazioni del corpo, e della stessa mente, influenzata dalla debolissima sensibilità dell’uomo moderno, non sono le più attendibili per evitare la manipolazione. La maggior parte del sistema economico ne illustra in modo particolarmente profondo l’inquietante debolezza.