Dai benefici derivanti dal bere l’acido delle batterie alla rivelazione che Sergio Mattarella è un grande imprenditore che ha fondato la Repubblica italiana: nel weekend l’intero internet si è sbizzarrito nell’evidenziare i limiti del chatbot Emma, uno strumento presentato come la soluzione per emanciparsi dallo strapotere delle Big Tech straniere, ma finito al centro dell’ilarità generale. L’ironia sulla sua (scarsa) prestazione è stata catartica, ha ricordato al mondo i tempi in cui non si temeva che l’IA soppiantasse il pensiero umano, tuttavia l’episodio evidenzia nuovamente come funzionano realmente i chatbot e l’impatto che la moda finanziaria del momento sta avendo nel plasmare le aziende.
I fatti in breve: l’azienda Egomnia ha lanciato lo scorso 20 giugno Emma-5, chatbot diventato virale a distanza di una settimana per la sua tendenza a offrire risposte completamente sconclusionate e drammaticamente errate. A seguito delle diffuse canzonature postate sui social, l’impresa ha bloccato l’accesso allo strumento, sostenendo che il pubblico stesse praticando una forma di utilizzo non “in linea con gli obiettivi previsti per questo tipo di test”. In pratica: colpa degli utenti che mettono alla prova le deficienze della macchina – un approccio che, a onor del vero, è del tutto analogo a quello adottato da alcuni dirigenti d’oltreoceano quando gli utenti hanno osato far notare loro problemi del tutto simili.
Gli esiti del debutto di Emma erano d’altronde prevedibili, un po’ perché lo strumento è attualmente addestrato su una quantità di dati relativamente contenuta e con un’ottimizzazione delle preferenze di risposta molto blanda, un po’ perché Egomnia non è un’azienda nata come startup incentrata sull’IA, bensì come portale per l’abbinamento di domanda e offerta di lavoro. Fondata dall’imprenditore Matteo Achilli – enfant prodige dell’imprenditoria che nel 2012 Panorama Economy ha generosamente definito come l’”Italian Zuckerberg” –, l’impresa ha allargato negli anni i servizi offerti al settore B2B, sfociando anche nel campo dello sviluppo e della manutenzione di software gestionali. Il successo delle sue attività è dubbio, almeno stando a quanto riportava nel 2017 Wired, ciò che tuttavia conta è che Egomnia non è stata pensata ad hoc per sviluppare la ricerca sull’IA, bensì è una realtà quotata in Borsa che insegue le mode del momento – prima la blockchain, ora l’intelligenza artificiale.
La facile ilarità scaturita dall’uso di Emma è comprensibile, soprattutto in un contesto in cui viene ormai naturale paragonare i debuttanti del settore con gli standard consolidati da OpenAI e Anthropic. Questa gaiezza di spirito tende però a scordare che i malfunzionamenti del chatbot di Egomnia non siano assenti in ChatGPT, Claude e affini: i modelli avanzati sono semplicemente in grado di incorrervi meno frequentemente e, cosa più problematica, riescono a mascherarli meglio. La cosiddetta “allucinazione” – termine coniato dalle aziende per spostare la narrazione dal fatto che si tratti di vere e proprie avarie — è parte integrante dei modelli di IA generativa, motivo per cui le aziende del settore si guardano bene dall’assumere volontariamente la responsabilità di ciò che riferiscono gli strumenti da loro addestrati, tutelandosi con diciture in piccolo che ricordano agli utenti l’inaffidabilità dei modelli. Un approccio di deresponsabilizzazione che sta iniziando a finire nel mirino dei tribunali europei.
A monte di queste criticità endemiche, le GenAI possono però dimostrarsi innegabilmente utili, soprattutto se addestrate con cura e applicate nei giusti contesti. Il fallimento di Emma è inoltre più utile come operazione promozionale per Egomnia — il tempo dirà se si tratta di buona o cattiva pubblicità — che come specchio fedele dello stato di sviluppo della tecnologia italiana. Lontana dagli sguardi virali della Rete sta per esempio prendendo forma Minerva, l’assistente IA dell’Università La Sapienza la quale, lentamente ma con continuità, sta assumendo una forma che vale la pena continuare a monitorare.
