Causal Language Modeling (CLM)

Da Wiki AI.
Versione del 6 set 2024 alle 07:09 di Alesaccoia (discussione | contributi) (Creata pagina con "Il task di predizione della prossima parola nella frase, date le parole precedenti: è quindi unidirezionale. E' uno dei due obiettivi di pre-training di ''language modeling'' insieme al Masked-Language-Modeling (MLM): è utilizzato per esempio in GPT e in genere in tutti i modelli di linguaggio sviluppati per la generazione del testo. Categoria:Concetto")
(diff) ← Versione meno recente | Versione attuale (diff) | Versione più recente → (diff)

Il task di predizione della prossima parola nella frase, date le parole precedenti: è quindi unidirezionale.

E' uno dei due obiettivi di pre-training di language modeling insieme al Masked-Language-Modeling (MLM): è utilizzato per esempio in GPT e in genere in tutti i modelli di linguaggio sviluppati per la generazione del testo.

Estratto da "https://wiki.mindmaker.it/index.php?title=Causal_Language_Modeling_(CLM)&oldid=3016"