Dopo mesi di attesa, la Commissione europea entra nel vivo del dibattito applicativo dell’AI Act, il pacchetto normativo destinato a ridefinire il modo in cui l’intelligenza artificiale verrà sviluppata e applicata nel continente. Nello specifico, le istituzioni hanno appena pubblicato una bozza che introduce i criteri guida di classificazione per gli strumenti considerati ad “alto rischio”, il cuore dell’intero impianto legislativo: un perimetro che abbraccia, direttamente o indirettamente, una larga parte dei prodotti e dei servizi digitali oggi sul mercato.
La bozza [1], pubblicata ieri – martedì 19 maggio – si articola in tre documenti: un breve testo introduttivo che illustra i principi generali per la classificazione dei sistemi ad “alto rischio” e due sezioni che approfondiscono le classificazioni individuate dall’articolo 6 dell’AI Act. La prima riguarda la sicurezza dei prodotti, in particolare quelli basati esclusivamente su tecnologie di intelligenza artificiale; la seconda, decisamente più corposa, analizza l’integrazione di sistemi di IA in otto ambiti: biometria, gestione delle infrastrutture critiche, istruzione, amministrazione della forza lavoro, servizi essenziali, applicazione della legge, migrazione e controlli doganali, amministrazione della giustizia. La pubblicazione delle linee guida è soggetta a consultazione mirata fino al 23 di giugno.
Lo stralcio presentato ha un carattere prevalentemente tecnico, tuttavia contiene passaggi di rilievo, soprattutto se letto alla luce della bozza [2]sugli obblighi di trasparenza nell’applicazione degli strumenti di intelligenza artificiale, pubblicata l’8 maggio e aperta a consultazione fino al 3 giugno. Valutate nel loro insieme, le due iniziative evidenziano la volontà della Commissione di promuovere la massima trasparenza in tutte le attività che impiegano sistemi di IA. Il principio delineato si estende in questo senso su più livelli, coinvolgendo – a seconda dei casi – i fornitori, gli utilizzatori e le eventuali terze parti considerate rilevanti. Una scelta che mira a rendere tracciabili i processi decisionali e le responsabilità lungo l’intera filiera dell’intelligenza artificiale.
Non solo: la Commissione pone particolare enfasi sull’obbligo, per i fornitori, di inserire negli output generati dai sistemi di intelligenza artificiale segni identificativi che ne rivelino la natura artificiale, riconoscibili attraverso strumenti di analisi interoperabili tra diversi marchi. Allo stesso tempo, gli utilizzatori dovranno etichettare in modo chiaro i contenuti che impiegano l’IA, perlomeno qualora questi riguardino temi di interesse pubblico. Alcune di queste prescrizioni possono essere mitigate garantendo un’adeguata revisione umana; tuttavia – e questo è un punto cruciale – la formula “human in the loop” non consentirà di per sé a imprese e istituzioni di evitare la classificazione delle proprie operazioni come “ad alto rischio”.
La Commissione chiarisce esplicitamente che, per questa categoria di sistemi, il coinvolgimento umano non è opzionale, ma costituisce un prerequisito. I documenti lasciano inoltre a intendere che non basterà definire un processo formale di supervisione, poiché gli operatori dovranno essere effettivamente responsabili di ciò che viene elaborato tramite gli strumenti di IA. Considerando che, finora, aziende e istituzioni hanno spesso adottato soluzioni di intelligenza artificiale in modo disomogeneo e con scarso monitoraggio – talvolta lasciando ai singoli lavoratori la libertà di sperimentare le funzionalità dei chatbot e degli agenti generativi – questa impostazione segna una svolta: impone una revisione profonda del rapporto tra società e automazione.
I documenti, inizialmente previsti per il 2 di febbraio, giungono con un marcato ritardo rispetto all’originale tabella di marcia e sono caratterizzati da un allungamento dei tempi che si è inevitabilmente intrecciato con il Digital Omnibus [3], la proposta di alleggerimento delle norme benvoluta dalle lobby aziendali che é stata discussa dall’UE in fretta e furia al fine di rimandare l’applicazione effettiva dell’AI Act.
