artificial-intelligence - 次元削減は可逆的ですか？

Question

ENCOG を使用して次元削減アルゴリズムを実装しました。これは、複数の機能を持つデータセット (A と呼びます) を取り、それを 1 つの機能だけを持つデータセット (B) に削減します (時系列分析に必要です)。

ここで私の質問は、時系列分析によって予測された B からの値を持っていることです。A データセットのように 2 つの次元に戻すことはできますか?

Answer 1

いいえ、次元削減は一般に元に戻すことはできません。情報が失われます。

Answer 2

次元削減 (情報の圧縮) は、自動エンコーダーで可逆的です。自動エンコーダーは、ボトルネック層が中間にある通常のニューラル ネットワークです。たとえば、最初の層に 20 個の入力、中間層に 10 個のニューロン、最後の層に再び 20 個のニューロンがあります。このようなネットワークをトレーニングすると、情報を 10 個のニューロンに圧縮し、再度圧縮解除して、最後の層でのエラーを最小限に抑えます (目的の出力ベクトルは入力ベクトルに等しくなります)。よく知られている逆伝播アルゴリズムを使用してそのようなネットワークをトレーニングすると、PCA (主成分分析) が実行されます。PCA は無相関の特徴を返します。あまり強力ではありません。

より洗練されたアルゴリズムを使用して自動エンコーダーをトレーニングすることにより、非線形 ICA (独立成分分析) を実行させることができます。ICA は、統計的に独立した機能を返します。このトレーニング アルゴリズムは、高度な汎化機能を備えた複雑性の低いニューラル ネットワークを検索します。正規化の副産物として、ICA を取得します。