machine-learning - RBM などの教師なしニューラル ネットワークをトレーニングする方法は?

Question

このプロセスは正しいですか？

MNIST のような大量のデータがあるとします。

これらすべてのデータ (ラベルなし) を RBM にフィードし、トレーニング済みモデルから各データを再サンプリングするだけです。

その後、出力を分類用の新しいデータとして扱うことができます。

私はそれを正しく理解していますか？RBM を使用する目的は何ですか?

Answer 1

その通りです。RBM は、特徴空間の次元を削減するために一般的に使用される教師なし学習アルゴリズムの形式です。別の一般的なアプローチは、オートエンコーダーを使用することです。

RBM は、対照的な発散アルゴリズムを使用してトレーニングされます。このアルゴリズムの最良の概要は、それを思いついた Geoffrey Hinton によるものです。 https://www.cs.toronto.edu/~hinton/absps/guideTR.pdf

教師なし学習がどのようにパフォーマンスを改善するかについての優れた論文は、http://jmlr.org/papers/volume11/erhan10a/erhan10a.pdfにあります。この論文は、教師なし学習がより優れた一般化とフィルターを提供することを示しています (CRBM を使用している場合)。