È stata una settimana difficile per Meta, per YouTube e, più in generale, per l’intero ecosistema dei social media. Due diverse giurie hanno riconosciuto le piattaforme responsabili per la gestione dei loro servizi: da un lato per aver contribuito a creare ambienti dannosi per la salute mentale dei minori, dall’altro per aver ingannato il pubblico sull’efficacia dei sistemi di prevenzione contro la pedopornografia. Mentre negli Stati Uniti queste aziende iniziano a essere considerate direttamente responsabili delle loro scelte manageriali online, in Europa il processo procede più lentamente, frenato dalle resistenze irlandesi.
Martedì 24 marzo è arrivato il primo verdetto. Una giuria del New Mexico ha riconosciuto Meta colpevole di aver fuorviato il pubblico sui propri protocolli di sicurezza, le cui lacune hanno permesso agli algoritmi del social di mettere attivamente in contatto minori e predatori sessuali. Per documentare la situazione, gli investigatori hanno creato profili fittizi di adolescenti su Instagram e Facebook: nel giro di poco tempo sono stati esposti a “contenuti sessualmente allusivi” e a richieste di materiale pornografico. Durante l’operazione, due uomini del New Mexico sono stati arrestati dopo essersi presentati a un incontro con quella che credevano essere una bambina di 12 anni. Al processo ha testimoniato anche Arturo Bejar, ex dirigente tecnico di Meta diventato whistleblower, che ha raccontato di aver compreso appieno la gravità del problema quando sua figlia quattordicenne ha ricevuto richieste di natura sessuale sulla piattaforma. I suoi ripetuti avvertimenti alla dirigenza, ha spiegato, sono rimasti inascoltati. Secondo Bejar, gli stessi algoritmi personalizzati che rendono le piattaforme di Meta così efficaci nella pubblicità finiscono anche per amplificare la portata dei predatori sessuali. In relazione al crimine, la giuria ha ordinato alla Big Tech di pagare una multa di 375 milioni di dollari.
Mercoledì 25 marzo è arrivato il secondo caso. A Los Angeles, una donna di vent’anni identificata come K.G.M. è riuscita a dimostrare che Meta e YouTube hanno contribuito a danneggiare la sua salute mentale durante l’adolescenza. Le due piattaforme sono state accusate di aver progettato i propri algoritmi con l’obiettivo di massimizzare la dipendenza, un approccio paragonato in aula alle strategie dell’industria del tabacco e del gioco d’azzardo. TikTok e Snapchat, anch’esse coinvolte nella causa, hanno preferito raggiungere un accordo extragiudiziale pochi giorni prima dell’inizio del processo. Anche in questo caso la giuria si è schierata dalla parte della vittima: Meta dovrà versare 4,2 milioni di dollari in compensazione e danni, mentre YouTube ne pagherà 1,8 milioni.
Le aziende hanno già annunciato ricorso e non è difficile prevedere che i procedimenti d’appello richiederanno anni prima di arrivare a una conclusione definitiva. Tuttavia, entrambe le sentenze segnano un netto cambio di rotta. A differenza degli editori, le piattaforme social sono state finora protette dalla responsabilità sui contenuti grazie allo scudo normativo della “Sezione 230”. I due casi di questa settimana hanno però imboccato una strada diversa: l’attenzione non si è concentrata sui contenuti pubblicati dagli utenti, bensì sul modo in cui gli algoritmi li selezionano, li promuovono e li abbinano ai profili. Le Big Tech non sono state giudicate colpevoli per ciò che circola sulle loro piattaforme, ma per come lo hanno gestito. Una premessa che ora spiana la strada a migliaia di casi omologhi.
Nel frattempo, in Europa, torna a emergere l’inefficienza del garante irlandese per la protezione dei dati, il quale ha detenuto per anni la responsabilità amministrativa della maggior parte dei procedimenti contro i grandi social statunitensi. Una situazione dovuta al fatto che, per ragioni fiscali, molte Big Tech hanno stabilito la loro sede europea in Irlanda, diventando un tassello rilevante dell’economia del Paese. L’incapacità della Data Protection Commission (DPC) di portare avanti indagini incisive è stata ampiamente documentata, ma la portata della sua inefficienza è prepotentemente riemersa durante un’audizione davanti alla Commissione Oireachtas, quando il presidente Des Hogan ha ammesso che, in otto anni di normativa europea sui dati, l’autorità non ha mai chiuso un singolo procedimento nei confronti di un attore di primo piano come Google.
Non solo: secondo quanto denunciato dall’Irish Council for Civil Liberties (ICCL), l’Irlanda starebbe applicando in modo restrittivo la Collective Redress Directive, arrivando di fatto a impedire alle organizzazioni non profit di raccogliere fondi per sostenere azioni legali di interesse pubblico. L’ICCL sottolinea che, pur potendo avviare in Irlanda class action contro i giganti del web, le ONG non possono organizzare raccolte le risorse destinate a finanziarle – un limite che, in pratica, rende quasi impossibile affrontare avversari potenti come le Big Tech. Se sul piano politico e normativo l’Europa si sta muovendo con strumenti come il Digital Services Act e il Digital Markets Act, la dimensione amministrativa del GDPR continua dunque a mostrare ampie criticità. Forse i recenti verdetti statunitensi contribuiranno a gettare una nuova luce sul ruolo dei social nel rapportarsi con il pubblico, stimolando da parte delle autorità una maggiore solerzia.
