Martedì 15 luglio, il Garante per la protezione dei dati personali (GPDP) ha pubblicato la sua Relazione annuale. Tra i temi affrontati, il Presidente Pasquale Stanzione ha evidenziato una tendenza sempre più marcata tra i giovani: il ricorso crescente a interazioni parasociali con chatbot commerciali. Complice la loro programmazione assertiva, queste intelligenze artificiali finiscono spesso per catalizzare l’attenzione dei minori — e non solo — i quali tendono a proiettare su di esse legami affettivi. Una dinamica che può compromettere la salute mentale, le relazioni interpersonali e i diritti delle persone coinvolte.
Secondo quanto riportato nel documento, nel 2024 il tema dell’intelligenza artificiale, insieme a Big Data e deepfake, è stato al centro dell’attività del Garante. L’Autorità è sempre più spesso chiamata a esprimere la sua opinione su prodotti che si collocano in aree normative ancora poco definite, ma che vengono immessi sul mercato con una certa disinvoltura. Una delle criticità più rilevanti che è venuta a crearsi in seguito a questo comportamento commerciale riguarda proprio il rapporto tra soggetti vulnerabili e chatbot, un fenomeno in rapida crescita che si fa particolarmente delicato quando coinvolge adolescenti.
“Almeno un ragazzo su 6, tra gli 11 e i 25 anni, ha utilizzato i chatbot di IA per chiedere consigli e valutazioni, come uno psicologo, riscontrandone poi dipendenza in un caso su tre”, sostiene Stanzione. “Addirittura alcuni sviluppano una sorta di legame affettivo, empatico con questi chatbot anche in ragione del loro tono spesso eccessivamente lusinghiero, assolutorio, consolatorio e del loro configurarsi come un approdo sicuro in cui rifugiarsi, al riparo dal giudizio altrui. E’ quello che viene definito il loop dell’empatia infinita, che genera appunto dipendenza spingendo a svalutare, per converso, i rapporti umani (che appaiono troppo complessi e poco satisfattivi), inducendo così all’isolamento”.
Questa tendenza è stata recentemente confermata anche da Internetmatters.org, organizzazione britannica che nel sondaggio Me, Myself and AI ha rilevato dati che vale la pena tenere in considerazione in vista dello sviluppo pedagogico dei giovani, ma anche sotto l’eventuale lente legislativa. Secondo l’indagine, il 64% dei bambini tra i 9 e i 17 anni interagisce abitualmente con chatbot. Nella maggior parte dei casi si tratta di semplici domande legate a tematiche scolastiche, ma il 23% ricorre a questi strumenti per ricevere consigli su vari aspetti della vita, inclusa la salute mentale e la sfera sessuale.
Il 15% dei giovani che usa le IA preferisce confrontarsi con una macchina piuttosto che con una persona vera. La percentuale sale sensibilmente tra i minori più vulnerabili, dove il 26% dichiara di preferire la compagnia di chatbot agli esseri umani e il 23% afferma di non avere nessun altro con cui parlare. Un quadro che riflette una tendenza più ampia, considerando che anche molti adulti fanno ricorso a strumenti come ChatGPT come surrogato economico della terapia.
Al di là del problema legato alla gestione dei dati sensibili e delle informazioni intime che questi sistemi possono raccogliere e integrare nei loro algoritmi, resta il tema cruciale della loro programmazione: i chatbot sono progettati per essere persuasivi e accomodanti, tendenzialmente servili, la loro programmazione rischia di amplificare le convinzioni di chi si rivolge a loro, rinforzando concetti che andrebbero contrastati. In tal senso, una recente ricerca dell’Università di Stanford ha evidenziato come i modelli linguistici tendano pericolosamente ad assecondare pensieri distorti o deliranti. Per questo motivo, gli studiosi invitano a non considerare le IA come alternativa alla consulenza psicologica professionale, una raccomandazione che non può che sollevare dubbi sull’effetto che questi strumenti possano esercitare sulla mente dei minori.
Per Stanzione, l’urgenza attuale è quella di dover sviluppare trasversalmente una migliore alfabetizzazione digitale, ovvero trasmettere meglio agli utenti quali siano le potenzialità, i limiti e i rischi che si collegano all’uso di questi strumenti. “Ciò su cui è necessario il massimo rigore è il rispetto degli obblighi di age verification e, soprattutto, una comune alleanza delle istituzioni e delle comunità educanti per la promozione della consapevolezza digitale dei minori. La scuola, le scuole, stanno facendo molto; il Garante è al loro fianco in quest’ attività di formazione della cittadinanza digitale”, afferma il Presidente del Garante della privacy.
