Deep Unsupervised Learning using Nonequilibrium Thermodynamics
Deep Unsupervised Learning using Nonequilibrium Thermodynamics | |
---|---|
Data | 2015 |
Autori | Jascha Sohl-Dickstein, Eric A. Weiss, Niru Maheswaranathan, S. Ganguli |
URL | https://www.semanticscholar.org/paper/2dcef55a07f8607a819c21fe84131ea269cc2e3c |
Topic | Apprendimento profondo non supervisionato |
Citazioni | 4460 |
Questo articolo esplora l'applicazione dei principi della termodinamica di non equilibrio per migliorare l'apprendimento profondo non supervisionato. Propone un nuovo metodo che diffonde lentamente la struttura in una distribuzione di dati e poi impara un processo di diffusione inverso per ripristinare la struttura, creando un modello generativo flessibile e trattabile. Questo approccio consente l'apprendimento rapido, il campionamento e la valutazione delle probabilità in modelli generativi profondi con migliaia di strati o passaggi temporali.