Funzione di attivazione: differenze tra le versioni
(Creata pagina con "Funzione matematica posta all'uscita dei neuroni artificiali che ne modifica l'intervallo del segnale di uscita. E' normalmente una funzione non lineare, che permette alle reti neurali di essere degli approssimatori universali di funzione. Le funzioni di attivazione più importanti sono: * Sigmoide * RELU (1969): https://ieeexplore.ieee.org/document/4082265 * GELU (2016): https://arxiv.org/abs/1606.08415") |
Nessun oggetto della modifica |
||
| Riga 6: | Riga 6: | ||
* RELU (1969): https://ieeexplore.ieee.org/document/4082265 | * RELU (1969): https://ieeexplore.ieee.org/document/4082265 | ||
* GELU (2016): https://arxiv.org/abs/1606.08415 | * GELU (2016): https://arxiv.org/abs/1606.08415 | ||
[[Category:concetto]] | |||
Versione delle 11:31, 3 apr 2024
Funzione matematica posta all'uscita dei neuroni artificiali che ne modifica l'intervallo del segnale di uscita. E' normalmente una funzione non lineare, che permette alle reti neurali di essere degli approssimatori universali di funzione.
Le funzioni di attivazione più importanti sono:
- Sigmoide
- RELU (1969): https://ieeexplore.ieee.org/document/4082265
- GELU (2016): https://arxiv.org/abs/1606.08415