Già si avvera la profezia di Prevost: OpenAI «sorveglierà» le pandemie
Sarà l’Intelligenza artificiale a spazzare via ogni nostra autonomia in tema di salute, obbligandoci a trattamenti sanitari affidati ad algoritmi insufficienti e non trasparenti, modelli creati da chi ha già deciso prevenzione, controlli, allarmi epidemiologici di massa.
Non è fantascienza: OpenAI sta lanciando uno strumento «per contribuire allo sviluppo di nuove capacità di biodifesa e di preparazione alle pandemie» sostenendo organizzazioni «dalla prevenzione e individuazione precoce, alla resilienza sociale e allo sviluppo di contromisure mediche». L’azienda fondata nel 2015, che si occupa di ricerca e sviluppo dell’Intelligenza artificiale e diventata famosa nel 2022 con ChatGPT, chatbot (programma informatico) di IA che utilizza l’elaborazione del linguaggio naturale (Pnl) per comprendere le domande degli utenti e automatizzare le risposte, generare immagini e testo, ha un nuovo programma.
Si chiama Rosalind Biodefense e offrirà il suo modello GPT-Rosalind per la ricerca nel campo delle scienze della vita a «sviluppatori di fiducia» che mettono in pratica strumenti di biodifesa. In parallelo, sta ampliando l’accesso a GPT-Rosalind ad alcuni partner del governo statunitense e dei suoi alleati, al fine di supportare missioni di sanità pubblica e di biodifesa.
In pratica, OpenAI fornirà supporto per sistemi di allerta precoce, pianificazione della risposta alle epidemie, diagnostica e sviluppo di contromisure mediche. Già accade in numerosi centri statunitensi. Il Lawrence Livermore national laboratory (Llnl), dove si lavora «al servizio della sicurezza nazionale», sta abbinando il modello GPT-Rosalind al suo lavoro di supercalcolo e simulazione per progettare e valutare contromisure mediche.
Il Johns Hopkins applied physics laboratory prevede di integrare GPT-Rosalind «in una piattaforma di ingegneria proteica che analizza enzimi mutanti per individuare terapie, contromisure e caratterizzazione delle minacce biologiche», fa sapere R&D World che fornisce contenuti a laboratori di ricerca e sviluppo di aziende, enti governativi e università di tutto il mondo.
Con il messaggio che OpenAI si sta impegnando per individuare e mitigare minacce biologiche, pandemie prima che si aggravino, si sorvola su quelle che possono essere le conseguenze di un uso improprio di misure di sicurezza, «supportando la generazione di ipotesi» formulate da macchine, ma su algoritmi di cui sono artefici gli sviluppatori e noi, le cavie.
Inoltre, non viene menzionato alcun ente regolatore specifico su questi strumenti, prima che vengano ampiamente utilizzati. Eppure, i ricercatori hanno avvertito che i modelli di Intelligenza artificiale addestrati su dati biologici potrebbero essere utilizzati impropriamente per contribuire alla progettazione di agenti patogeni pericolosi. Ma è stato soprattutto papa Leone XIV a mettere in guardia sull’uso improprio di IA.
Nell’enciclica Magnifica humanitas ha detto che le moderne Intelligenze artificiali sono «più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”. Di conseguenza, aspetti scientifici fondamentali - come le rappresentazioni interne e i processi computazionali di questi sistemi - rimangono al momento sconosciuti. Si manifesta pertanto l’urgenza di un duplice impegno: da un lato, un approfondimento della ricerca scientifica, dall’altro, un esercizio di discernimento morale e spirituale».
Papa Prevost lo dice chiaramente: «L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà». Avverte del rischio, di «un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati».
Non c’è nulla di neutrale, nel dettare sistemi di allerta precoce, pianificazione della risposta alle epidemie, diagnostica e sviluppo di contromisure mediche. Ancora una volta, è il pontefice ad ammonire sul «volto inedito» del colonialismo. «Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove “terre rare” del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta».
OpenAI vuole supportare missioni di sanità pubblica e di biodifesa, ma occorrerà monitorare attentamente quali iniziative prenderà.
