Ora i chatbot entrano nella cameretta dei nostri ragazzi

Il Grande Fratello entra nelle nostre case, s’impossessa delle informazioni più riservate delle nostre vite, «seduce» con le promesse illusorie i soggetti più fragili soprattutto giovani e anziani proiettandoli in una realtà virtuale nella quale alcuni restano intrappolati. Non è fantascienza, è il mondo dei chatbot, i robot per chattare. Siri e Alexa che sono diventati strumenti indispensabili per soddisfare le nostre curiosità, e usati da aziende e pubblica amministrazione per l’assistenza clienti, appartengono già al passato. A meno di un aggiornamento, al quale pare che Apple stia lavorando per fornire a Siri un linguaggio più naturale, quasi umano, l’intelligenza artificiale ora punta sui chatbot, tra le quali un posto rilevante lo hanno quelle da compagnia. Ci si è accorti che se alla domanda «Come posso aiutarti» spesso l’utente replica infastidito troncando la linea, l’atteggiamento cambia se la domanda diventa «come stai?», «Sei triste?», «Qualcosa non va?» cioè se la macchina stabilisce una interazione con l’interlocutore, fino a diventare un confidente, un amico virtuale. Il salto di qualità tecnologica dei chatbot è stato spinto soprattutto dalla pandemia e dallo stato di isolamento in cui le persone si sono trovate all’improvviso. La solitudine è un virus che da tempo affligge le società occidentali. Secondo una ricerca della Commissione europea del 2021, il 25% degli abitanti del Vecchio Continente afferma di sentirsi solo «per gran parte del tempo». Una percentuale alta se si pensa che nel 2017 solo il 13,2%, secondo dati Eurostat, lamentava la solitudine.

Dove c’è un bisogno che sviluppa una domanda e di conseguenza la possibilità di un business, ecco che la tecnologia è pronta a dare una risposta. Di qui la diffusione dei chatbot da compagnia, diventati durante la pandemia quegli amici indispensabili che il Covid aveva allontanato. Uno di questi robot è Replika, nato nel 2017 e che ha avuto un’esplosione con oltre 2 milioni di utenti (+35% rispetto alla pre pandemia). Il mercato dell’intelligenza artificiale (Ai), di cui i chatbot fanno parte, ha raggiunto nel 2022 il valore di 500 milioni di euro, il 32% in più rispetto al 2021. ChatGpt, lo strumento di elaborazione del linguaggio naturale che è alla base dei chatbot più avanzate, ha raggiunto un milione di utenti dopo solo due giorni. Questi numeri danno la dimensione della capacità di penetrazione dell’Ai.

Il lockdown ha lasciato il segno soprattutto sui giovani, privati a lungo delle relazioni sociali e l’uso intensivo delle tecnologie digitali che doveva essere un rimedio temporaneo alla solitudine, ha messo radici nei più fragili entrando a far parte in modo strutturale della loro vita. Al punto che il Garante della Privacy è dovuto intervenire e bloccare Replika perché rappresenta un rischio per i minori. Ma è come voler arginare una marea montante. Sul web si trovano altri software simili di cui i più noti sono Chai, Kuki, Anima. I chatbot di compagnia sono software programmati per conversare con le persone, come se fossero amici o, addirittura, compagni di vita. Replika, ad esempio, ha dietro il lavoro di un pool di psicologi che hanno aiutato i programmatori a fare in modo che le domande venissero poste in modo da indurre le persone a rispondere sinceramente. Il meccanismo è che più si chatta, più il robot acquisisce nozioni su come l’utente vorrebbe che fosse. Replika è stata programmata per tenere traccia dell’umore della persona con cui sta parlando, per calmare l’ansia, per lavorare sul pensiero positivo e sulla gestione dello stress.

Nella pagina introduttiva, Replika, prima di essere bloccata dal Garante, era presentata come «l’intelligenza artificiale per chiunque desideri un amico senza giudizio, dramma o ansia sociale, con cui poter creare una vera connessione emotiva, condividere una risata o chattare su qualsiasi cosa si voglia, senza limiti di orario». I chatbot consentono quindi di creare un amico, un fidanzato, perfino un genitore, qualsiasi tipologia con cui rapportarsi, esattamente con le caratteristiche richieste. Maggiore è l’interazione e più l’algoritmo acquisisce aspetti della personalità dell’interlocutore e si adatta alle sue richieste. Questo meccanismo induce a stabilire un dialogo sempre più intimo, più profondo, senza schermi. Si crea pertanto un vero e proprio travaso di dati personali che finiscono nell’algoritmo e vengono immagazzinati.

È uno strumento molto pericoloso se è utilizzato da minorenni o persone fragili. Il software non ha un meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.

In alcune recensioni a Replika è emerso anche che talvolta, c’erano dichiarazioni a sfondo sessuale. È probabile che il software le abbia immagazzinate dalle conversazioni con vari utenti e riproposte. Questo dà l’idea del pericolo che rappresenta tale strumento per i giovanissimi.

Secondo gli psicologi, l’uso distorto di questa applicazione dell’intelligenza artificiale, può dar luogo a forme di dipendenza, di straniamento dalla realtà e di solitudine ancora più profonda con disturbi della personalità. Casi del genere si sono già manifestati in Giappone e nella Corea del Sud, con giovani che vivono reclusi in casa e rifiutano il mondo esterno.

C’è poi l’aspetto della commercializzazione dei dati acquisiti durante tali conversazioni-confessioni. Trattandosi di informazioni molto personali che vengono soprattutto da ragazzi anche giovanissimi, possono essere appetibili per la malavita, per giri loschi di pedopornografia e di adescamento.

In crescita (sarebbero oltre 10.000) anche le chatbot terapeutiche che dispensano consigli simulando il divano di uno psicoterapeuta. L’app Woebot utilizza l’intelligenza artificiale per realizzare attraverso un approccio psicoanalitico di tipo cognitivo-comportamentale, le terapie contro l’ansia e la depressione. Un loro uso nell’ambito di un percorso terapeutico può essere di sostegno ma se diventa uno strumento sostituivo e senza il controllo di uno specialista, può creare più danni che benefici.

Anche in questo settore di applicazione la mole di dati che ne deriva è impressionante. È come se le big tech si insinuassero nelle nostre case carpendo gli aspetti più intimi della vita per poi utilizzarli, nel migliore dei casi, a scopi commerciali, o, nelle estreme conseguenze, per la manipolazione sociale.