Deep Autoencoder Topic Model for Short Texts

自然言語処理 深層学習 トピックモデル

BoW からディープにトピックモデルをする話

疑問

Deep Autoencoder と似てるものに Stacked Denoising Autoencoder (SdA) がある. 何が違うんだろう? Deep Autoencoder は RBM っていうのであんまり逆伝播っぽくない. とりあえず SdA は RBM ではなさそう. SdA はノイズを想定していて、ノイズには dropout を使いそう.