Asse Anthropic-dem per controllare chi controllerà la rivoluzione digitale

L’ex presidente americano si è insomma schierato con la prospettiva catastrofista che, negli ultimi giorni, è stata portata avanti dall’ad di Anthropic, Dario Amodei, il quale, promuovendo una narrazione apocalittica sull’IA, ha invocato regolamentazioni del settore da parte del governo (proprio ieri Anthropic ha avviato con OpenAI e Google una iniziativa volta a creare un organismo di vigilanza a tal fine).

Trump boccia gli allarmi di Anthropic: «È una bufala»

Una posizione, questa, che è stata seccamente respinta da Trump, il quale ha bollato le preoccupazioni Anthropic come una «bufala». Pur non essendo favorevole a una radicale deregulation, l’attuale inquilino della Casa Bianca ritiene, sì, che le aziende ipertecnologiche debbano tener conto delle priorità strategiche di Washington, ma è al contempo convinto che non debbano essere sottoposte a regole eccessive: regole che, secondo Trump, rischierebbero di compromettere la capacità degli Stati Uniti di competere efficacemente con la Cina.

Sotto questo aspetto, il consigliere tecnologico della Casa Bianca, David Sacks, ha affermato che, anziché ricorrere a nuovi lacci e lacciuoli, le varie società tech statunitensi dovrebbero direttamente e autonomamente assumersi la responsabilità di uno sviluppo sicuro dell’Intelligenza artificiale.

Ma da che cosa deriva questa sorta di alleanza tra Obama e Amodei a favore della narrazione catastrofista? Innanzitutto, non è da escludere un’affinità di tipo ideologico. Il Ceo di Anthropic è uno storico sostenitore del Partito democratico statunitense (basti pensare che, nel 2024, appoggiò decisamente la candidatura presidenziale di Kamala Harris).

Veltroni e l’«apocalisse» dell’IA

Probabilmente non a caso, dalle nostre parti, Walter Veltroni, i cui legami con i dem americani sono arcinoti, ha rilanciato sul Corriere della Sera la narrazione apocalittica sull’IA, citando esplicitamente Obama. E questo nonostante a maggio, sullo stesso giornale, l’ex sindaco di Roma si fosse addirittura preso la briga di intervistare Claude (il famoso chatbot di Anthropic).

In secondo luogo, non bisogna trascurare come una parte consistente degli americani nutra attualmente ostilità nei confronti dei data center necessari ad alimentare l’IA. I democratici stanno cercando di far leva sulla questione in vista delle elezioni di metà mandato, attaccando Trump che, al contrario, ha convintamente difeso la bontà di queste infrastrutture.

Anthropic, dal canto suo, punta probabilmente a rafforzarsi agli occhi del mercato statunitense, soprattutto in considerazione della quotazione in Borsa che dovrebbe aver luogo il mese prossimo.

Ecco che quindi la narrazione apocalittica sull’IA ha un duplice fine. Per i democratici è utile da sfruttare in campagna elettorale, mentre per Amodei l’obiettivo è quello di consolidare la posizione (e il potere) della propria azienda. In che modo? È presto detto.

Anthropic e i legami con il mondo dem

Le organizzazioni a cui lo stesso Amodei si rifà per mettere sotto controllo lo sviluppo tecnologico della sua società hanno (paradossalmente) dei legami, più o meno espliciti, con essa. Un esempio è quello di Metr, che vede tra i suoi finanziatori indiretti quel Dustin Moskovitz che è stato a sua volta investitore di Anthropic.

Ovviamente non possiamo sapere con certezza se si tratti di una strategia organizzata. Il fondato sospetto, però, è che la società di Amodei contribuisca ad alimentare la narrazione catastrofista per presentarsi poi essa stessa come risolutrice del problema.

Il che significa che, chiedendo l’istituzione di un ente regolatore a livello governativo, Anthropic punta a controllarlo (e non a farsi controllare). Si tratta del fenomeno noto come «cattura della regolamentazione» e si ha quando l’ente di controllo statale, anziché agire a tutela dell’interesse pubblico, agisce in realtà a tutela degli interessi della società che dovrebbe supervisionare.

Il timore di un cartello: Sacks attacca la strategia delle Big Tech

«Smettete di fingere che Metr sia indipendente quando è intrecciata con gli investitori e il personale di Anthropic», ha dichiarato Sacks su X, rivolgendosi esplicitamente ad Amodei e al Ceo di OpenAi, Sam Altman.

Il consigliere della Casa Bianca ha anche manifestato il sospetto che le big tech si stiano muovendo nell’ambio di una «cattura della regolamentazione», aggiungendo come gli accordi invocati dal Ceo di Anthropic con la Cina siano altamente improbabili da raggiungere. «Smettete di fingere che la legge antitrust debba essere sospesa in modo che possiate formare un cartello», ha aggiunto Sacks, riecheggiando una preoccupazione condivisa anche da Alvaro Bedoya, che era nella Federal Trade Commission ai tempi dell’amministrazione Biden.

Sia chiaro: qui nessuno nega che l’IA sia una tecnologia dagli aspetti controversi e potenzialmente rischiosi. Tuttavia, la vulgata apocalittica alimentata da Amodei e Obama potrebbe avere alla sua base delle motivazioni assai meno disinteressate di quanto possa apparire a prima vista. Certo, va detto che anche una parte del mondo Maga si dice favorevole a maggiori regolamentazioni (si pensi soprattutto a una figura come quella di Steve Bannon).

Obama e Amodei, l’«alleanza» per riconquistare le Big Tech

Tuttavia, è soprattutto l’«alleanza» tra il Ceo di Anthropic e Obama a risultare significativa. Tramite Amodei, il Partito democratico spera verosimilmente di riuscire man mano a ricucire con quei giganti tech che, un tempo saldamente schierati con l’Asinello, si sono avvicinati, negli ultimi anni, a Trump e ai repubblicani.

Si tratta di una manovra che non guarda soltanto all’ormai imminente voto di Midterm ma anche, se non soprattutto, alle elezioni presidenziali del 2028. Le scintille tra Trump e Obama sull’Ia, insomma, sono solo all’inizio.

Il dottor algoritmo è la fine della medicina

di Mariano Bizzarri

C’è qualcosa di insopportabile nel dover ascoltare la paternale che i signori delle Big Tech – quelli che hanno appestato il mondo con i loro Facebook, Metaverso e quant’altro – ci stanno propinando circa i pericoli incombenti dell’Intelligenza artificiale (IA).

Le Big Tech scoprono ora i rischi dell’Intelligenza artificiale

L’elenco dei rischi è lungo, ma sostanzialmente va riassunto nel fatto che l’IA possa sfuggire al controllo, eludendo la versione moderna delle leggi della robotica – ipotizzate 60 anni fa da Isaac Asimov – e così generare codici che raggruppandosi possono creare procedure e protocolli imprevisti, a loro volta capaci di innescare comportamenti inattesi.

Tutto vero e già anticipato da almeno 50 anni, ma ora drammaticamente attuale. Dove erano questi signori mentre tutto questo accadeva? Negli ultimi vent’anni hanno chiuso gli occhi per poter continuare a correre, e così realizzare una concentrazione di capitali e di risorse tecniche inimmaginabili, al solo scopo di accentrare una potenza inconcepibile.

E mentre il mondo dormiva, l’IA è penetrata dentro motori di ricerca, smartphone, aziende, software, pubblicità, come un coltello nel burro, conseguendo una trasformazione antropologica prima ancora che scientifica.

L’IA è già il nuovo potere tecnocratico

Oggi tutto questo si è tradotto in un immenso potere tecnocratico che non solo decide dove indirizzare miliardi di investimenti, quali tecnologie accelerare, quali infrastrutture costruire, ma riesce a controllare come milioni di persone orientano il loro pensiero, plasmandone sentimenti, bisogni e orientamenti politici.

Le grandi aziende del settore sono i nuovi padroni del mondo e impongono la loro volontà sui decisori politici. La contrapposizione non è più tra proletari e capitalisti, tra Stati sovrani e entità internazionali, ma tra un oligopolio anonimo e la massa informe degli utenti.

Invocare oggi il «rallentamento» e maggiori regolamentazioni (ma nessuno si guarda dallo specificare quali) equivarrebbe solo a favorire i pochi che sono già saldamente al comando, mentre uno stop limitato che coinvolga il mondo occidentale finirebbe inevitabilmente per lasciare campo libero alla sola Cina. Con conseguenze ben immaginabili. È un dilemma amletico: come regolamentare senza che questo finisca con il cristallizzare le posizioni di potere acquisite?

Forse occorrerebbe fare come per l’energia nucleare: una moratoria internazionale, ponendo un limite quantomeno ai settori in cui non deve essere lasciata discrezionalità alla IA. Prima che, accecati dalla brama di potere, coloro che pensano di servirsi delle nuove tecnologie non si rendano conto di esserne diventati i servitori (inconsapevoli?).

In medicina l’automazione può erodere il giudizio dei medici

L’esempio di quanto accade in medicina è al riguardo più che istruttivo. L’Intelligenza artificiale è entrata nel mondo della sanità con la promessa di rivoluzionare l’assistenza, ridurre il carico di lavoro e migliorare l’accuratezza diagnostica e terapeutica.

Non sembra che le cose stia andando però nel senso voluto. Si stanno moltiplicando gli aspetti negativi: riduzione della vigilanza, infondata fiducia nell’automazione, dequalificazione professionale dei nuovi medici, erosione del giudizio clinico e incapacità a costruire una relazione terapeutica centrata sulla persona e non su un anonimo elemento di più vasta statistica.

La dequalificazione nell’assistenza si riferisce alla erosione delle capacità e delle competenze cliniche che può verificarsi quando i medici diventano eccessivamente dipendenti dai sistemi automatizzati.

Questo fenomeno non è limitato al campo della medicina: i piloti hanno avuto problemi simili con i sistemi di guida automatica. Il pregiudizio dell’automazione si verifica quando gli esseri umani fanno eccessivo affidamento sui sistemi computerizzati, accettandone i risultati senza una adeguata valutazione critica.

Nell’aviazione, questo ha contribuito a causare incidenti quando i piloti non hanno saputo riconoscere e correggere gli errori del sistema. Inoltre, i modelli di IA generativa possono «inventare» o interpretare male i dati, ingenerando «allucinazioni cliniche» (producendo relazioni mediche alterate per l’inserimento di sintomi, farmaci o diagnosi inesistenti) o errori di sovra-diagnosi (un algoritmo può diventare così specifico da scambiare un artefatto casuale di una macchina radiografica – come una macchia di polvere o il posizionamento del paziente – per un segno di patologia, generando falsi positivi).

Diagnosi, errori e «allucinazioni»: i rischi per i pazienti

È inquietante poi che le procedure diagnostiche forniscano un risultato senza spiegare il percorso logico conseguito per giungere alla conclusione. Questo implica che non esiste possibilità di verifica: se l’IA modifica una prognosi o suggerisce una terapia errata, il medico non ha modo di capire perché il software ha preso quella decisione, rendendo difficile intercettare l’errore prima che impatti sul paziente.

Contrariamente a quanto si pensa, l’IA può inoltre essere ingannata intenzionalmente o inavvertitamente: modificando pochi pixel di un’immagine radiologica, è possibile fuorviare l’IA, facendole scambiare un tumore maligno per un tessuto sano, o viceversa (il che solleva rischi di frode assicurativa o sabotaggio clinico), mentre le prestazioni possono essere inficiate se cambiano i macchinari o la composizione della popolazione (data drift), portando a risultati progressivamente alterati rispetto a quelli dei test clinici iniziali.

È grave che, limitatamente al settore medico, non esista ancora una strategia di supervisione e regolamentazione a livello governativo, nonostante le rassicurazioni ufficiali.

Così l’IA rischia di erodere la capacità dei medici di pensare in modo critico, aggiungendo costi, problemi di privacy e rischi di errore. Ma probabilmente il danno principale sta nella distruzione della relazione terapeutica, il cuore della pratica ippocratica. I sistemi di Intelligenza artificiale, per quanto sofisticati, non possono replicare l’intelligenza emotiva necessaria per un’assistenza efficace ai pazienti.

Un paziente ha bisogno di essere ascoltato e aiutato a trovare un significato profondo nella malattia che lo assale. E per fare questo non basta una mente: occorre anche un cuore. Che l’IA non ha.