LayerNorm

LayerNorm
Nome Inglese	LayerNorm
Sigla	LayerNorm

Tecnica di normalizzazione dei layer dei modelli di Rete Neurale Ricorrente (RNN) e Transformer.

Links

Layer Normalization

https://www.lesswrong.com/posts/THzcKKQd4oWkg4dSP/you-can-remove-gpt2-s-layernorm-by-fine-tuning-for-an-hour