L’AI act non affronta il il “rischio insito nel sistema stesso”, le allucinazioni, i bias, Matteo Flora, “abbiamo l’evidenza matematica che è impossibile generare degli LLM, che non allucinano”

L’AI act non affronta il il “rischio insito nel sistema stesso”, le allucinazioni, i bias,” grazie a uno studio pubblicato da tre studiosi di un’università di Singapore abbiamo l’evidenza matematica che è impossibile generare degli LLM, che non allucinano”, denuncia Matteo Flora, docente di Cyber Security all’Università degli Studi di Milano al convegno “AI e manomissioni delle informazioni, discriminazioni, fake news e rischi per la democrazia”, organizzato dall’ordine degli avvocati di Milano.

Sebbene l’AI possa sbagliare meno di un essere umano e il suo tasso di errore possa diminuire nel tempo, Flora ha insistito sul fatto che “c’è sempre un rischio” associato al suo utilizzo.

“L’AI-Act mi dice tante cose belle su come alcune tecnologie devono essere applicate o meno in alcuni contesti, ma non parla dell’elefante nella stanza, non parla del rischio di applicazione. Non parla del rischio insito nel sistema stesso, che c’è, anche se magari è inferiore a quello umano, significa che possibile che  sbagli meno, prima o poi sbaglierà, anche se meno di un essere umano, il rischio c’è e non se ne parla.

A gennaio di quest’anno con un bellissimo paper pubblicato da tre studiosi di un’università di Singapore, noi abbiamo l’evidenza matematica che è impossibile generare degli LLM, dei foundation model, che non allucinano. Lo sappiamo.

Ogni volta che noi mettiamo quella tecnologia sul tavolo e dobbiamo mettere in conto che è possibile, matematicamente, l’equivalente del teorema dell’incompetenza di Gödel per gli LLM, è matematicamente impossibile che non facciano errori”, implica che ogni volta che questa tecnologia viene utilizzata, si deve accettare l’inevitabilità degli errori.

Nonostante ciò, Flora ha sostenuto che, sebbene si debba continuare a “mitigare” questi rischi, anche se non saranno mai eliminati del tutto.