Causal Language Modeling (CLM)

Causal Language Modeling (CLM)
Nome Inglese	Casual Language Modeling
Sigla	CLM

Il task di predizione della prossima parola nella frase, date le parole precedenti: è quindi unidirezionale.

E' uno dei due obiettivi di pre-training di language modeling insieme al Masked-Language-Modeling (MLM): è utilizzato per esempio in GPT e in genere in tutti i modelli di linguaggio sviluppati per la generazione del testo.