Per affinare gli “amici” e i “partner” chatbot a cui raccontate i vostri segreti, fragilità e perversioni sessuali, le aziende sembrano pronte a fare affidamento sul lavoro occulto dei più vulnerabili. Una nuova testimonianza rivela infatti che anche dietro questi strumenti si potrebbero celare gli sforzi di subappaltatori chiusi in uffici di Nairobi, pagati per mentire sulla propria identità e per intrattenere gli utenti di internet con seducenti menzogne.
A rivelare il fenomeno è The Emotional Labor Behind AI Intimacy, documento pubblicato da Data Workers’ Inquiry, un gruppo collegato all’istituto indipendente DAIR, fondato dalla ricercatrice Timnit Gebru. Ovvero colei che ha rotto con Google dopo che la Big Tech non ha apprezzato la sua decisione di pubblicare un report in cui evidenziava criticità e pericoli delle intelligenze artificiali. Il testo raccoglie il dettagliato resoconto di Michael Geoffrey Asia, moderatore di contenuti che ha sperimentato quasi ogni forma di lavoro invisibile legato alle tecnologie di Meta e che oggi ricopre il ruolo di Segretario Generale della Data Labelers Association (DLA), associazione che si propone di tutelare e garantire maggiori diritti agli operatori – spesso provenienti da Paesi a basso reddito – incaricati di catalogare e affinare i dati utilizzati per l’addestramento dei modelli di intelligenza artificiale.
Asia racconta in particolare la sua più recente esperienza professionale presso l’azienda New Media Services. “Il ruolo impone di assumere molteplici identità costruite e di utilizzare pseudo-profili creati dall’azienda per partecipare a conversazioni intime ed esplicite con uomini e donne soli”, spiega. In pratica, agli operatori viene richiesto di praticare catfishing: fingere di essere qualcun altro per soddisfare i bisogni emotivi degli utenti, facendoli sentire amati e desiderati, con l’obiettivo di abbassarne le difese e ottenere così le loro informazioni più sensibili e personali. La retribuzione è di 0,05 dollari per messaggio inviato e ogni messaggio deve soddisfare una lunghezza minima per essere conteggiato.
La pratica del catfishing è spesso associata a truffe mirate a prosciugare economicamente le vittime. In questo caso, però, Asia ha riconosciuto uno schema già incontrato in passato: sfruttando un opaco sistema di subappalti e la segretezza imposta dai contratti di non divulgazione, le Big Tech ricorrono alla manodopera africana – ma non solo – per addestrare algoritmi che vengono presentati come prodotti neutri e “asettici”. In realtà, tali IA generative non poggiano su calcoli astratti e imparziali, bensì sullo sfruttamento di lavoratori costretti a condizioni professionali degradanti e prive di tutele.
Kenya e Ghana si sono mostrati terreno fertile per queste forme di imperialismo digitale di sorveglianza, così come India, Venezuela, Germania, Spagna, Bulgaria, Colombia. In un primo momento il lavoro consisteva nella moderazione dei contenuti social e nell’addestramento degli algoritmi destinati ad automatizzare i controlli sui post, quindi è arrivata la fase dell’etichettatura qualitativa dei risultati elaborati dalle GenAI. Non sorprende, dunque, che con la crescente diffusione dei chatbot relazionali le imprese si stiano organizzando per perfezionare questa tipologia di modelli, fondandoli sui dati generati da tali interazioni. Nel tentativo di legare il concetto di IA a una forma di pensiero magico, le Big Tech sono infatti quanto mai solite affidarsi a processi di AI washing, a presentare servizi automatizzati che, in verità, sono gestiti da teleoperatori.
L’analisi proposta da Asia non si concentra però sulle menzogne dei giganti del settore, bensì mette in luce lo spaccato umano che troppo spesso viene ignorato, se non deliberatamente nascosto. Le aziende subappaltatrici operano frequentemente in contesti segnati da mercati del lavoro stagnanti, offrendo possibilità apparentemente allettanti grazie a retribuzioni che sono perlomeno in grado di sopperire al pagamento di bollette e spese quotidiane. Tuttavia, la precarietà dei contratti fa sì che le condizioni peggiorino progressivamente e che la pressione sui lavoratori aumenti col tempo. Il burnout diventa una presenza inevitabile, aggravata dalla natura stessa delle mansioni, a prescindere che si tratti dell’analisi di messaggi violenti o dell’assunzione di identità fittizie di genere e preferenze sessuali diverse dalle proprie. Tutto ciò alimenta profonde sensazioni di alienazione e depressione, le quali non sono affatto mitigate da un adeguato supporto psicologico. Anche perché, vale la pena ricordarlo, i contratti firmati vietano esplicitamente ai lavoratori di discutere con i propri cari e con gli psicologi della reale natura del loro mestiere.
