Скачать или смотреть Allucinazioni dei modelli: esami e risposte binarie rigorose!

L’IA non dice mai “non lo so”. Ma perché i modelli linguistici preferiscono inventare di sana pianta piuttosto che ammettere un limite?

Nel mondo degli LLM, il termine "allucinazione" è ormai pane quotidiano. Ma c'è un dettaglio che rende queste bugie diverse dalle nostre: quando l'essere umano mente spesso tradisce esitazione, l'AI, invece, sbaglia con una sicurezza incrollabile.

Perché accade?
La risposta sta spesso nel modo in cui i modelli vengono addestrati e valutati.

In questo video esploriamo come i sistemi di valutazione attuali spingano l'IA a rispondere sempre e comunque, anche a costo di sbagliare. Un recente studio di OpenAI paragona l'addestramento a un classico esame a risposta multipla: se il sistema premia solo le risposte corrette e non dà alcun valore all'astensione, il modello impara presto che tirare a indovinare conviene sempre di più che lasciare in bianco.

In pratica, abbiamo insegnato all'IA che tentare la fortuna è meglio che tacere. 😅

Leggi qui il paper completo: https://cdn.openai.com/pdf/d04913be-3...


___________________________________________________________


Scopri i nostri servizi ➡️ https://devmy.it/codevmy/?utm_source=...

Conosci la nostra Acadevmy per la tua azienda? Scopri i nostri corsi ➡️
https://devmy.it/acadevmy/?utm_source...

Non dimenticare di seguirci su:
Linkedin ➡️   / devmyfactory  
Instagram ➡️   / devmy.it  
Facebook ➡️   / devmy.it  

Leggi il nostro blog: https://devmy.it/blog/articles/?utm_s...