Radiografie false con l’intelligenza artificiale: l’allarme su truffe e risarcimenti

A guardarla, sembrava vera. Ma è stato proprio questo il problema. Perché invece quella radiografia era falsa, generata dall’intelligenza artificiale. Eppure ci sono cascati tutti. Perché se un referto medico così importante può apparire autentica anche agli occhi di un medico esperto, allora il rischio non riguarda più soltanto la diagnosi. Riguarda il denaro, i risarcimenti, i contenziosi, le frodi. Riguarda un pezzo crescente della sicurezza digitale che finora è rimasto ai margini del racconto pubblico: la possibilità che immagini cliniche, file audio, video e comunicazioni manipolate con l’AI entrino nei processi assicurativi e sanitari come prove credibili, abbastanza credibili da far scattare pagamenti, perizie o decisioni sbagliate.

Il punto non è più teorico. Uno studio pubblicato su Radiology ha mostrato che immagini radiografiche sintetiche create dall’AI possono ingannare sia i radiologi sia gli stessi sistemi di intelligenza artificiale. Nel test, 17 specialisti di 12 ospedali in sei Paesi hanno esaminato 264 immagini, metà autentiche e metà artificiali: senza sapere della presenza dei falsi, sono riusciti a riconoscerli correttamente solo nel 41% dei casi; anche dopo essere stati avvertiti, l’accuratezza media si è fermata al 75%. Tradotto: il falso ha già raggiunto un livello di qualità sufficiente a entrare nella zona grigia dove una prova non è più immediatamente distinguibile da una manipolazione.

È in questa zona grigia che la cybercriminalità cambia pelle. Per anni il rischio informatico è stato associato soprattutto a intrusioni, ransomware, phishing, furti di dati. I deepfake aggiungono un livello diverso e più insidioso: non attaccano solo i sistemi, attaccano la fiducia. Non forzano una porta, si presentano come qualcosa che sembra legittimo. Una voce che chiede un bonifico urgente. Un video che conferma un ordine. Un’immagine clinica che rafforza una richiesta di rimborso. Una prova che appare tecnica e quindi, per definizione, affidabile.

Il caso di Hong Kong, dove un dipendente ha autorizzato trasferimenti per oltre 25 milioni di dollari dopo una videoconferenza con dirigenti in realtà ricostruiti artificialmente, è diventato il simbolo di questo salto. Non c’entra la sanità, ma spiega bene il meccanismo: il deepfake non serve più soltanto a ingannare l’opinione pubblica, serve a far funzionare una frode dentro procedure ordinarie. È questo il passaggio decisivo. Il falso non si limita a circolare. Entra nei processi.

Per questo la partnership tra identifAI e AmTrust Assicurazioni merita attenzione ben oltre il recinto delle notizie di settore. La compagnia ha deciso di integrare strumenti di rilevamento deepfake dentro la propria offerta cyber per imprese e organizzazioni sanitarie, con servizi di verifica per immagini, video e audio e con un’estensione specifica contro la frode digitale. È il segnale che il mercato assicurativo comincia a considerare il deepfake non come un rischio reputazionale o mediatico, ma come un rischio operativo, economico e potenzialmente assicurabile.

«L’Intelligenza Artificiale generativa» – commenta Marco Ramilli, founder di IdentifAI – «ha reso indistinguibile il vero dal falso, mettendoci di fronte a una scelta. Non possiamo più credere a tutto ciò che vediamo, ma vivere nel sospetto perpetuo è contro la nostra natura umana. Per non rassegnarci alla ‘Società del Dubbio’, dobbiamo costruire i nostri anticorpi digitali. Sviluppare e adottare strumenti di AI detection è il passo fondamentale per riprenderci il nostro diritto più grande: quello di fidarci ancora. identifAI nasce proprio per colmare questo gap: addestriamo modelli di visione artificiale avanzati per contrastare l’output generativo, garantendo il diritto fondamentale alla verifica dell’autenticità».

La sanità è il terreno più delicato di tutti. Perché qui l’autenticità di un’immagine non ha solo un valore informativo: può incidere su diagnosi, invalidità, responsabilità professionale, liquidazione di sinistri, cause civili. Se una radiografia falsa può sembrare plausibile, il problema non riguarda solo il medico che la interpreta. Riguarda l’intera filiera: chi produce il file, chi lo conserva, chi lo valuta, chi ci costruisce sopra una decisione clinica o un rimborso. In un contesto del genere, il deepfake non è un semplice falso digitale. È un attacco alla catena della prova.

Ed è qui che il tema diventa pienamente cyber. Perché la sicurezza non coincide più soltanto con la difesa delle reti o dei server. Coincide anche con la capacità di verificare l’autenticità di ciò che circola dentro un’organizzazione. Europol da tempo avverte che audio, video e immagini sintetiche possono essere usati per impersonation, frodi e manipolazione delle evidenze. La novità è che adesso questa minaccia sta trovando un punto di contatto diretto con assicurazioni, strutture sanitarie e processi aziendali reali.

La questione di fondo è semplice e scomoda. Per decenni il digitale è stato raccontato come il regno della tracciabilità. Oggi rischia di diventare anche il regno dell’ambiguità. Vedere non basta più. Ascoltare non basta più. Ricevere un’immagine o un documento non basta più. E quando questo accade nei settori dove una prova può generare un risarcimento o orientare una diagnosi, il problema smette di essere tecnologico in senso stretto. Diventa industriale, giuridico, assicurativo.

È questo che la vicenda identifAI-AmTrust porta alla luce. Non la promessa di una soluzione definitiva, che oggi non esiste, ma la presa d’atto che il confine tra vero e falso è ormai diventato un tema di sicurezza economica. E che la prima infrastruttura da proteggere, ormai, non è solo il sistema. È la fiducia.