Australia, se lo Stato imita le truffe con l’Intelligenza artificiale

Si è poi saputo di una complessa truffa basata su false chat di Whatsapp, voci clonate dall’IA e conferme incrociate tutte simulate, che hanno convinto i vertici di Fideuram a consentire bonifici per 95 milioni di euro, recuperati poi per due terzi ma i restanti convertiti in cryptovalute.

Le truffe con l’intelligenza artificiale

Sta succedendo qualcosa di decisivo: la frode sta smettendo di essere una goffa operazione diretta verso le marginalità svantaggiate – come tempo fa documentò con involontaria solerzia Corrado Augias – e diventa un’imitazione indistinguibile della catena di comando che replica il protocollo stesso dell’autorità interiorizzandone i criteri umani di urgenza, riservatezza, assenso e conferma di umanità.

Il caso Fideuram è di fondamentale importanza perché lì l’IA non ha «inventato» un estraneo ma ha clonato il tessuto relazionale già esistente spostando la vulnerabilità non più sull’ingenuità bensì sulla fedeltà procedurale.

Questi casi dimostrano che le istituzioni sono attaccabili precisamente perché funzionano, perché il bonifico, la Pec, la telefonata di conferma sono tutte condizioni formali create per annullare i significati e sono, in pratica, l’adattamento del principio degli ordini militari alla vita quotidiana.

Il nuovo truffatore che conosce le possibilità dell’IA non è dunque un semplice ladro bensì un filologo della burocrazia che sa che più un sistema è formalizzato e più offre all’IA una grammatica stabile da contraffare.

Il caso dell’Australia

In Australia è in discussione il Digital Duty of Care nel quale si autorizza esplicitamente l’uso di identità fittizie prodotte dall’IA che possono generare contenuti falsi «nella misura in cui non costituiscano reato» al fine di «contrastare la disinformazione». Lo Stato dunque sta dichiarando di ritenere legittimo non soltanto il contrasto al «falso» ma il suo monopolio operativo. I contenuti online cessano così di essere un campo di enunciati per diventare un teatro in cui alcuni attori – fittizi quanto gli altri – sono maschere dello Stato stesso.

Siamo dunque alla rapida normalizzazione di ciò che fino a ieri – era solo il 2024 – Mark Zuckerberg descriveva, a proposito della pandemia, come una «illegittima pressione della Casa Bianca alla quale è stato un errore cedere».

In Australia stiamo assistendo all’accettazione che una democrazia debba simulare fatti e circostanze per restare democrazia, ammettendo così implicitamente che il consenso spontaneo non basta più, che la vecchia censura deve farsi drammaturgia costituzionale e che il mito d’origine della pandemia ha reso accettabile l’intervento sul vero e la dichiarazione emergenziale come prassi estesa.

Cosa succede in Europa

E potremmo considerare tutto ciò un’eccentricità da australiani se non fosse che Ursula von der Leyen ha ripetuto più volte concetti analoghi, se in Gran Bretagna tutto ciò non fosse già realtà da tempo e se il cancelliere Merz non ripetesse da giorni che la libertà di espressione è sbagliata.

Tutto ciò non sarebbe stato possibile se non vivessimo il tempo dell’estensione smisurata dell’effetto Dunning-Kruger, quello per il quale meno una persona conosce un argomento e più è convinta di conoscerlo.

L’agente di validazione ne è il rappresentante perfetto, colui che non conosce esattamente ciò di cui parla ma occupa la posizione da cui il sapere sembra certificato. Cornice e tono fanno tutto, una testata autorevole e una frase pronunciata con assertività rendono pressoché ogni affermazione non solo vera ma in grado di qualificare chi non ci crede come sospetto.

Per un paio di settimane tutto un mondo ha continuato a ripetere l’impossibile, cioè che a Ceuta se n’erano andati tutti nel giro di due giorni, basando tale falso su cornice, ripetizione e tono assertivo. Ma non possiamo sottovalutare il fatto che la società umana si è costruita sulla base del «pregiudizio di credenza», quello per il quale un’informazione prima si accoglie e poi si controlla, un sistema formale pressoché implicito nelle forme biologiche di funzionamento mentale grazie alle quali si deve l’esistenza stessa del linguaggio.

Il cambio di paradigma sull’intelligenza artificiale

La comparsa di una tecnologia che riesce a simulare il reale in maniera indistinguibile dal vero, unita ad un contesto generale di manipolazione dell’opinione pubblica iniziato in maniera scientifica agli inizi del Novecento, ci costringono a ripensare il nostro stesso atteggiamento nei confronti del mondo.

Giacché scivolare nel dubbio scettico sistematico è impossibile, giacché l’uomo non è fatto per abitare un mondo in cui ogni segno è in premessa falso, l’unica possibilità per pensare forme di esistenza che non ci consegnino alle macchine, che non facciano di noi una «riserva permanente» utile solo all’addestramento dell’Ia, è quella di sottrarsi alle condizioni di contesto che tutto – la politica per prima – sembra voler indurre.

Per secoli, l’uomo ha considerato una disciplina la più alta, fondamentale, imprescindibile e necessaria di tutte: la retorica.

E ciò non certo per imparare a dominare l’interlocutore o per controllare il sapere in maniera esclusiva bensì per dotarsi di un arsenale critico in grado di respingere le minacce della falsificazione, della narrazione interessata e della prevaricazione.

Non si tratta più di «alfabetizzazione digitale» ma di vero e proprio cambio di paradigma epistemologico: occorre riconoscere che la modernità, il mondo costruito sulla centralità del linguaggio matematico, ci ha condotto al dominio del pensiero calcolante il quale è molto utile per lo sviluppo della tecnica ma molto distante dalla vita umana.

Prenderne atto sta diventando vitale tanto quanto insegnarlo alle nuove generazioni, prima che le simulazioni ci rubino tutto.