machine-learning - ニューラル ネットワーク (入力層と出力層)

Question

マルチクラス分類を扱うとき、バイアスを除く入力層のノード (ベクトル) の数は、出力層のノードの数と常に同じですか?

Answer 1

いいえ。入力レイヤーは機能を取り込みます。出力層は、クラスの予測を行います。機能とクラスの数は同じである必要はありません。また、複数のクラスの出力をどの程度正確にモデル化するかにも依存します。

Answer 2

いいえ、

通常、入力ユニットの数は、NN 分類器のトレーニングに使用する機能の数と同じです。

出力レイヤーのサイズは、データセット内のクラスの数に等しくなります。さらに、データセットに 2 つのクラスがある場合、これら 2 つのクラスを区別するには 1 つの出力ユニットだけで十分です。

Answer 3

ラース・コットホフは正しい。ただし、人工ニューラル ネットワークを使用してオートエンコーダーを構築する場合は、入力ノードと出力ノードの数を同じにし、出力ノードに入力ノードの値を学習させる必要があります。

Answer 4

ANN 出力層には、各クラスのノードがあります。3 つのクラスがある場合は、3 つのノードを使用します。入力レイヤー (多くの場合、特徴ベクトルと呼ばれます) には、予測に使用される各特徴のノードと、通常は追加のバイアス ノードがあります。通常、隠しレイヤーは 1 つしか必要なく、その理想的なサイズを見分けるのは難しいものです。

隠れ層ノードが多すぎると、オーバーフィッティングが発生し、トレーニングが遅くなる可能性があります。非表示層ノードが少なすぎると、アンダーフィッティング (過度の一般化) になる可能性があります。

まず、いくつかの一般的なガイドライン ( source ) を示します。

• 隠れニューロンの数は、入力層のサイズと出力層のサイズの間にある必要があります。
• 隠れニューロンの数は、入力層のサイズの 2/3 に出力層のサイズを加えたものにする必要があります。
• 隠れニューロンの数は、入力層のサイズの 2 倍未満にする必要があります。

3 つのクラスと 30 個の特徴の入力ベクトルがある場合、約 23 ノードの非表示レイヤーから開始できます。トレーニング中にこのレイヤーにノードを追加および削除してエラーを減らし、検証データに対してテストしてオーバーフィッティングを防ぎます。