Causal Language Modeling (CLM): differenze tra le versioni

Da Wiki AI.
(Creata pagina con "Il task di predizione della prossima parola nella frase, date le parole precedenti: è quindi unidirezionale. E' uno dei due obiettivi di pre-training di ''language modeling'' insieme al Masked-Language-Modeling (MLM): è utilizzato per esempio in GPT e in genere in tutti i modelli di linguaggio sviluppati per la generazione del testo. Categoria:Concetto")
 
m (Alesaccoia ha spostato la pagina Casual Language Modeling a Casual Language Modeling (CLM) senza lasciare redirect)
(Nessuna differenza)

Versione delle 07:09, 6 set 2024

Il task di predizione della prossima parola nella frase, date le parole precedenti: è quindi unidirezionale.

E' uno dei due obiettivi di pre-training di language modeling insieme al Masked-Language-Modeling (MLM): è utilizzato per esempio in GPT e in genere in tutti i modelli di linguaggio sviluppati per la generazione del testo.