11

Geoffrey Hinton (最新ではありません) による Coursera のニューラル ネットワークに関するこのコースを受講しています。

私は重み空間について非常に基本的な疑問を持っています。 https://d396qusza40orc.cloudfront.net/neuralnets/lecture_slides%2Flec2.pdf 18ページ。 ここに画像の説明を入力

[w1=1,w2=2] としての重みベクトル (バイアスは 0) と {1,2,-1} および {2,1,1} としてのトレーニング ケースがある場合、{1,2} と推測します。 {2,1} は入力ベクトルです。幾何学的にどのように表現できますか？

私はそれを視覚化することができませんか？トレーニング ケースが重み空間を 2 に分割する平面を与えるのはなぜですか? 誰かがこれを 3 次元の座標軸で説明できますか?

以下は ppt のテキストです。

1.Weight-space には、重みごとに 1 つの次元があります。

2. 空間内のポイントには、すべての重みに対して特定の設定があります。

3.しきい値を削除したと仮定すると、各超平面は原点を通る超平面として表すことができます。

私の疑問は、上記の 3 番目の点にあります。理解を助けてください。

4

7 に答える 7

3

The "decision boundary" for a single layer perceptron is a plane (hyper plane)

plane

where n in the image is the weight vector w, in your case w={w1=1,w2=2}=(1,2) and the direction specifies which side is the right side. n is orthogonal (90 degrees) to the plane)

A plane always splits a space into 2 naturally (extend the plane to infinity in each direction)

you can also try to input different value into the perceptron and try to find where the response is zero (only on the decision boundary).

Recommend you read up on linear algebra to understand it better: https://www.khanacademy.org/math/linear-algebra/vectors_and_spaces

于 2014-03-02T04:06:15.240 に答える
0

例

重みが 2 つあるとします。だからw = [w1, w2]。input があるとしますx = [x1, x2] = [1, 2]。重みを使用して予測を行う場合は、予測がz = w1*x1 + w2*x2ありますy = z > 0 ? 1 : 0。

入力のラベルが 1 であると仮定します。したがって、 = 1xを望み、したがって を望みます。ベクトル乗算 を考えてみましょう。だから私たちは欲しいです。この式の幾何学的解釈は、 と の間の角度が90度未満であるということです。たとえば、この場合、緑色のベクトルは1 の正しい予測を与える候補です。実際には、緑のベクトルと の線に関して同じ側にあるベクトルは正しい解を与えます。ただし、赤いベクトルのように反対側にある場合は、間違った答えになります。ただし、ラベルが 0 であるとします。その場合は逆になります。yz = w1*x1 + w2*x2 > 0z = (w ^ T)x(w ^ T)x > 0wxww1 + 2 * w2 = 0

上記のケースは、直感的に理解し、講義スライドの 3 つのポイントを示しています。テストケース x は平面を決定し、ラベルに応じて、正しい答えを与えるために重みベクトルが平面の特定の側にある必要があります。

于 2019-12-14T14:03:27.090 に答える