Limitazioni dell’AI moderna e linee guida per un’AI affidable

Marco Zullich

I sistemi moderni di Intelligenza Artificiale (AI) si basano su modelli che vengono addestrati a minimizzare gli errori commessi su grosse quantità di dati.

Tuttavia, la valutazione della performance di questi sistemi su quest’unica metrica porta spesso ad effetti indesiderati, fra i quali rientrano bias discriminatori e fragilità qualora i dati siano leggermente diversi da quelli utilizzati nella fase di addestramento.

Nel 2019, l’Unione Europea ha diramato delle linee guida che definiscono la nozione di “AI affidabile” (Trustworthy AI), che si basa sull’idea che le performance di un sistema di AI vengano valutate sulla base di numerose sfaccettature, fra le quali rientrano concetti come trasparenza, robustezza, riservatezza, non discriminazione, benessere sociale ed ambientale, e quantificazione dell’incertezza.

L’obiettivo di questo talk è quello di presentare, in un contesto informale ed accessibile al pubblico generale, i concetti principali dell’AI affidabile, portando al contempo numerosi esempi che possano mostrare le debolezze dei sistemi moderni di AI, in un momento in cui i media mainstream presentano una narrativa basata sull’infallibilità di questi modelli, proponendo scenari catastrofici in cui l’AI soggiogherà a breve il genere umano.

La finalità è quindi di fornire al pubblico uno spaccato che porti alla valutazione critica dello stato attuale dell’AI. Inoltre, l’intervento fungerà da naturale introduzione alle tematiche dell’AI Act che verranno discusse nel corso della serata stessa.

Marco Zullich è lecturer presso il Dipartimento di Intelligenza Artificiale dell'Università di Groningen, nei Paesi Bassi, dove detiene la cattedra dei corsi di Object Oriented Programming for Al, Unsupervised Deep Learning e Trustworthy \& Explainable Al. Nella sua ricerca si occupa di quantificazione dell'incertezza in reti neurali e miniaturizzazione di modelli di apprendimento automatico.