Grokking

Da Wiki AI.
Versione del 19 ago 2024 alle 11:25 di Alesaccoia (discussione | contributi)
(diff) ← Versione meno recente | Versione attuale (diff) | Versione più recente → (diff)
Grokking
Nome Inglese Grokking
Sigla

Fenomeno per cui, a un certo punto del training, dopo l'overfitting, di colpo il modello inizia a generalizzare e l'accuratezza sul dataset di validazione incomincia a crescere.

Collegamenti

Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets