Seguendo un approccio di stampo statunitense, l’Unione Europea ha gettato le basi per istituire un archivio di contenuti pedopornografici che sarà in futuro interconnesso a un’app censoria. Ancora alle prime fasi progettuali, il programma dovrebbe essere un domani in grado di scansionare in tempo reale i contenuti visionati sui device elettronici così da interrompere autonomamente la visione di video e immagini raffiguranti abusi su minori.
Il progetto, noto come “Protech”, darà il via a marzo a una collaborazione biennale tra Regno Unito e UE, il tutto sotto lo sguardo attento dell’università Charité – Universitätsmedizin di Berlino (CUB). Ad annunciarlo [1]è l’organizzazione britannica Internet Watch Foundation (IWF), la quale non manca di sottolineare che la somministrazione del prodotto finale si integrerà nelle vite digitali dei cittadini esclusivamente in chiave volontaria.
Il primo passo sarà dunque raccogliere e catalogare i contenuti pedopornografici presenti sul web, creare un archivio CSAM (child sexual abuse material) su cui poi verrà addestrato un software da installare sugli smartphone di 180 utenti provenienti da Germania, Paesi Bassi, Belgio, Irlanda e Regno Unito. La fase pilota durerà undici mesi, al che specialisti e autorità valuteranno i risultati ottenuti così da considerare l’integrazione dello strumento all’interno delle iniziative pubbliche di prevenzione sanitaria.
Se il tutto vi rimanda a un’idea di un qualcosa di già visto, probabilmente avete seguito in passato il caso di Apple [2], Big Tech che nel 2021 aveva preso in considerazione di introdurre uno strumento affine all’interno dei suoi servizi di cloud, incappando però immediatamente in proteste tanto esplosive da far naufragare sul nascere il progetto. I due casi sono tecnicamente simili, tuttavia non ci vuole molto a identificare delle differenze più che sostanziali. A differenza di quanto era previsto dai piani della nota azienda, il controllo di Protech risulta in mano a istituzioni di respiro pubblico, inoltre il funzionamento dell’app è formalmente pensato in un’ottica più terapeutica che oscurantista.
Lo scopo dichiarato del progetto non è infatti tanto quello di limitare la distribuzione dei materiali di pornografia minorile, quanto quello di dar vita a un attrezzo che possa supportare tutte quelle persone che, per un motivo o per l’altro, temono di poter essere sottoposte a immagini illegali rappresentanti minori. Non dunque una soluzione passiva da subire per volontà altrui, ma un meccanismo attivo e consapevole da abbracciare in caso di bisogno.
Detto questo, non bisogna abbassare la guardia. La joint venture tra UK e UE sarà accompagnata da un investimento da due milioni di euro, un budget che non rappresenta certamente una cifra impressionante, ma che potrebbe comunque essere sufficiente a costruire un sistema di machine learning – Salus – capace di far gola all’universo della sorveglianza poliziesca. Nel maggio dell’anno scorso, la Commissione europea aveva avanzato delle proposte [3]sul come combattere la pedopornografia, alcune delle quali vagliavano la possibilità di concedere alle autorità il potere di imporre alle aziende di messaggistica e e-mail l’introduzione di sistemi capaci di identificare automaticamente i contenuti CSAM.
Questa eventuale dimensione poliziesca si sposa fin troppo bene con lo studio correntemente in mano all’università berlinese, quindi attivisti e avvocati specializzati nella tutela della privacy si stanno già muovendo per assicurarsi che gli organi UE per la vigilanza sui dati siano coinvolti attivamente nella formalizzazione del programma, una partecipazione che contribuirebbe a evitare che l’applicazione dello strumento possa assumere una dimensione differente da quella prettamente sanitaria.
[di Walter Ferri]