Allucinazione

Da Wiki AI.

Fenomeno che appare nei modelli di linguaggio che, data la loro natura probabilistica, hanno la tendenza a generare testo non veritiero o non supportato dai dati di addestramento.


Esempio (Gemini Flash 1.5):

Who was the mother of Afonso II, the third king of Portugal?

Risposta (errata):

The mother of Afonso II, the third king of Portugal, was Urraca of Castile.

Collegamenti

Hallucinating Faces

Survey of Hallucination in Natural Language Generation