Optimizer (Reti Neurali)

Da Wiki AI.

Un'Optimizer è una funzione che aggiorna il valore dei parametri del modello in base al valore calcolato dalla Funzione Obiettivo (loss) nell'iterazione corrente. Ha vari iperparametri, tra cui normalmente troviamo la learning rate.

Link

https://pytorch.org/docs/stable/optim.html#torch.optim.Optimizer

Adam: A Method for Stochastic Optimization