非平衡熱力学を用いた教師なし深層学習

Jascha Sohl-Dickstein, Eric A. Weiss, Niru Maheswaranathan, Surya Ganguliによる2015年3月12日の論文.拡散モデルの嚆矢.GAN[Generative Adversarial Network,敵対的生成ネットワーク]やVAE[Variational Auto-Encoder,変分オートエンコーダー]の隆興の陰で当初は注目されなかった.

Deep Unsupervised Learning using Nonequilibrium Thermodynamics

非平衡統計物理学[non-equilibrium statistical physics]のアイデアをもとにして,データの構造を復元する逆拡散プロセス[reverse diffusion process]を学習することによって,非常に柔軟で扱いやすいデータの生成モデル[highly flexible and tractable generative model]を生成できることを示した.

arXiv:1503.03585 [cs.LG]


INDEX