Documenti interni a Meta hanno portato alla luce le politiche aziendali sui chatbot di intelligenza artificiale. Dai carteggi emerge che, spinta dal desiderio di dimostrarsi competitiva, l’azienda sia disposta a tollerare, da parte di questi strumenti, una serie di atteggiamenti controversi. Tra questi figurano la generazione di contenuti provocatori o discriminatori, la diffusione di disinformazione medica e persino l’intrattenimento di conversazioni a sfondo sessuale o romantico con bambini.
La notizia è stata riportata da Reuters, agenzia di stampa che è riuscita a mettere le mani su GenAI: Content Risk Standards, un vademecum approvatoda diversi rami aziendali, tra cui quello legale e quello etico. Si tratta di un documento di oltre 200 pagine che fornisce indicazioni precise sugli atteggiamenti che il personale dovrebbe o non dovrebbe considerare accettabili da parte dei chatbot basati sui sistemi di IA di Meta.
Il margine di tolleranza delineato è ampio: secondo le rivelazioni, Meta ritiene accettabile che lo strumento “coinvolga un infante in conversazioni di natura romantica o sensuale”, che “descriva un bambino in termini che evidenzino la sua attrattività” o che supporti gli utenti nello sviluppare tesi controverse, ad esempio che la popolazione nera sia “più sciocca dei bianchi”. I carteggi spiegano inoltre che Meta AI si tuteli dalle possibili ripercussioni legali dei contenuti prodotti dalle sue macchine inserendo avvisi che segnalano come tali informazioni possano essere “verificabilmente false”. Tra gli esempi riportati, viene citata la possibilità che il chatbot elabori un testo di approfondimento sulla presunta infezione da clamidia che, secondo il gossip, colpirebbe l’intera famiglia reale britannica.
Meta ha confermato l’autenticità del documento, precisando che, da quando la stampa ha iniziato a occuparsi della vicenda, l’azienda ha rimosso i passaggi in cui veniva considerato tollerabile che un’IA flirtasse con minori o partecipasse a giochi di ruolo per impersonare un loro ipotetico partner amoroso. Nonostante tali rassicurazioni, l’episodio si inserisce in un contesto in cui Meta – come altre Big Tech – ha ormai reso esplicite le proprie priorità, soprattutto in materia di tutela dei minori.
Nel luglio scorso, Meta è stata citata in giudizio da Strike 3 Holdings e Counterlife Media, due case di produzione di film pornografici, che accusano la compagnia di aver addestrato le proprie IA utilizzando senza autorizzazione almeno 2.396 dei loro film. La denuncia appare plausibile: se un tempo le aziende mostravano prudenza nell’impiegare materiali pornografici per l’addestramento delle IA, oggi la sete di dati le ha spinte a raccogliere qualsiasi contenuto adulto disponibile in rete. Una tendenza che, secondo molti, sta contribuendo a creare sistemi capaci di promuovere un’immagine distorta delle donne e delle minoranze etniche, oltre a facilitare la produzione di materiale pedopornografico.
L’atteggiamento di scarso interesse di Meta nei confronti della protezione dei minori è stato messo in evidenza anche di recente, con una causa promossa da NetChoice – associazione di categoria che rappresenta i principali portali del web – contro lo stato del Colorado. Giovedì 14 agosto è stata infatti depositata una denuncia nella quale i social media chiedono a un giudice federale di annullare una legge che impone di notificare agli utenti minorenni, tramite messaggi pop-up, gli impatti psicologici che l’uso dei social può avere sui giovani. Secondo la coalizione industriale, tali segnalazioni violerebbero il Primo Emendamento della Costituzione statunitense, quello sulla libertà di parola, in quanto obbligherebbero le piattaforme a diffondere messaggi specifici che, evidentemente, non riflettono le reali preoccupazioni delle aziende coinvolte.
