lunedì 20 Maggio 2024

Microsoft licenzia il team che supervisionava l’etica delle intelligenze artificiali

Le grandi ditte tecnologiche stanno da una parte scommettendo coralmente su di un futuro fatto di intelligenze artificiali e dall’altra procedono a liquidare man mano i team etici che dovrebbero assicurarsi che le IA non diano vita a una distopia da incubo. L’ultima Big Tech a seguire questa tendenza è Microsoft, la quale ha incluso nella sua massiccia campagna di licenziamenti anche i setti componenti sopravvissuti alla recente ristrutturazione della squadra Etica e Sociale, promuovendo così una scelta strategica che comunica tacitamente le priorità perseguite dall’azienda.

«Microsoft continua a impegnarsi per sviluppare e progettare prodotti ed esperienze IA in maniera sicura e responsabile», ha dichiarato l’impresa attraverso un comunicato. «Così come la tecnologia in questione è evoluta e si è rinforzata, così han fatto anche i nostri investimenti, il che vuol dire che occasionalmente sia necessario aggiustare la struttura dei nostri team per renderli più efficienti. Per esempio, negli ultimi sei anni abbiamo aumentato il numero di persone all’interno dei nostri team di produzione che si dedicano a certificare la nostra adesione ai nostri principi IA. Abbiamo anche ingrandito la scala e gli obiettivi del nostro Ufficio Responsabile della IA, il quale garantisce supporto inter-aziendale su argomenti quali l’analisi di casi d’uso sensibile e per sostenere politiche che tutelano i consumatori».

Parafrasando, Microsoft aderisce a dei binari guida definiti da un ufficio specializzato nel formalizzare principi di massima che, dando fiducia alla narrativa ufficiale, potrebbero virtualmente contribuire a migliorare l’applicazione di questo controverso strumento. Stando alle testimonianze degli insider, il team recentemente scomparso aveva però un altro ruolo, quello di tradurre concretamente queste idee in strategie di sviluppo dei prodotti. Trasformavano le parole in fatti. Nello specifico, il gruppo si stava impegnando a identificare le insidie derivanti dalla decisione di Microsoft di appoggiarsi alla tecnologia GPT di OpenAI, una serie di strumenti che cova al suo interno molteplici criticità, ma che allo stesso tempo sposa gli interessi di crescita della Big Tech.

A distanza di pochi giorni dalla comunicazione dei licenziamenti, datata 6 marzo, OpenAI ha lanciato l’aggiornamento dei sistemi per passare ufficialmente alla quarta iterazione della sua intelligenza artificiale. La transizione si è dunque estesa automaticamente e immediatamente nelle funzioni di Microsoft. Stando alle indiscrezioni di Platformer, delle tempistiche tanto coincidenti sarebbero tutto meno che casuali. La testata è venuta infatti in possesso di una registrazione audio in cui il Vicepresidente della sezione IA, John Montgomery, ha rivelato ai dipendenti che la dirigenza stesse facendo pressioni per alleggerire i normali procedimenti di analisi e supervisione a cui normalmente sarebbero sottoposte le intelligenze artificiali ad uso commerciale.

«La pressione generata da Kevin [CTO] e da Stya [CEO] è molto, molto alta ed è orientata a prendere i modelli più recenti di OpenAI e quelli che verranno loro dopo e spingerli rapidamente nelle mani dei clienti», riporta l’audio. Questo alleggerimento della burocrazia interna assicura certamente pratiche aziendali più fluide e orientate ai risultati, tuttavia è opinabile che una simile evoluzione possa effettivamente “tutelare i consumatori”, ancor più che la stessa OpenAI continua ancora oggi ad ammettere che il suo prodotto sia ancora soggetto a “limitazioni” quali «pregiudizi sociali, allucinazioni e prompt antagonisti». La IA usata su cui sta puntando Microsoft, insomma, è potenzialmente razzista, sessista, bugiarda e promotrice di discorsi d’odio, eppure la manciata di persone che componevano il team etico è stata considerata sacrificabile e ridondante. Tornano in mente le parole di John Hammond, direttore fittizio del Jurassic Park scritto da Michael Crichton: «qui non si bada a spese». Peccato che lo statement del personaggio letterario fosse in aperta contraddizione con le sue azioni, la sua eccessiva parsimonia si è tradotta nel fallimento del progetto e nel danno di molti innocenti.

[di Walter Ferri]

L'Indipendente non riceve alcun contributo pubblico né ospita alcuna pubblicità, quindi si sostiene esclusivamente grazie agli abbonati e alle donazioni dei lettori. Non abbiamo né vogliamo avere alcun legame con grandi aziende, multinazionali e partiti politici. E sarà sempre così perché questa è l’unica possibilità, secondo noi, per fare giornalismo libero e imparziale. Un’informazione – finalmente – senza padroni.

Ti è piaciuto questo articolo? Pensi sia importante che notizie e informazioni come queste vengano pubblicate e lette da sempre più persone? Sostieni il nostro lavoro con una donazione. Grazie.

Articoli correlati

Iscriviti a The Week
la nostra newsletter settimanale gratuita

Guarda una versione di "The Week" prima di iscriverti e valuta se può interessarti ricevere settimanalmente la nostra newsletter

Ultimi

Articoli nella stessa categoria

Grazie per aver già letto

10 dei nostri articoli questo mese.

Chiudendo questo pop up potrai continuare la lettura.
Sappi però che abbiamo bisogno di te,
per continuare a fare un giornalismo libero e imparziale.

Clicca qui e  scopri i nostri piani di abbonamento e supporta
Un’informazione – finalmente – senza padroni.

ABBONATI / SOSTIENI