問題タブ [neural-network]

以下に示す関節ニューロンについて、それが発火する入力i1、i2、およびi3の値（0または1）を決定しようとしています（i0はバイアス重みの入力であり、常に-1になります）。

重みは

W0 = 1.5

W1 = -1

W2 = 1、およびW3=2。

下の画像に示されている活性化関数を想定します。

私はいくつかの例を実行しましたが、それでも理論を完全に理解することはできませんので、あなたの答えを明確にしてください:(

どうもありがとう、

メアリーJ.

PS。下の画像：

ニューラルネットワークのバックプロパゲーションアルゴリズムをコーディングする方法について、いくつか質問があります。

私のネットワークのトポロジーは、入力層、隠れ層、出力層です。隠れ層と出力層の両方にシグモイド関数があります。

1. まず第一に、私はバイアスを使うべきですか？ネットワークのバイアスをどこに接続する必要がありますか？隠れ層と出力層の両方に、層ごとに1つのバイアスユニットを配置する必要がありますか？入力レイヤーはどうですか？
2. このリンクでは、最後のデルタを入力-出力として定義し、図に示すようにデルタを逆伝播します。それらは、フィードフォワード方式でエラーを実際に伝播する前に、すべてのデルタを配置するためのテーブルを保持します。これは、標準のバックプロパゲーションアルゴリズムからの逸脱ですか？
3. 時間の経過とともに学習係数を減らす必要がありますか？
4. 誰かが知っている場合、レジリエントプロパゲーションはオンラインまたはバッチ学習技術ですか？

ありがとう

編集：もう1つ。次の図では、d f1（e）/ deは、シグモイド関数を使用していると仮定すると、f1（e）* [1- f1（e）]ですよね？

2つの入力ノード、2つの隠れノード、および出力を備えたニューラルネットワークは、バイアスがない場合にXOR問題を解決できると想定されていますか？それとも行き詰まる可能性がありますか？

私は、ポインターの配列をループし、各項目についてそのデータを (MySQL データベースまたはフラット ファイルから) 取り込む必要がある PHP 関数を作成しています。何千回もの繰り返しが発生する可能性があるため、これを最適化するアイデアはありますか?

私の最初のアイデアは、私が作業しているキャッシュされたデータの静的な配列を持つことでした。変更すると、そのキャッシュされた配列が変更され、最後にディスクにフラッシュできます。ただし、1000 を超えるアイテムのループでは、配列に約 30 しか保持しない場合、これは役に立ちません。各項目はそれほど大きくありませんが、メモリ内に 1000 個以上あると大きすぎるため、ディスク ストレージが必要になります。

データは、シリアル化されたオブジェクトを gzip 圧縮しただけです。現在、私はデータベースを使用してデータを保存していますが、おそらくフラットファイルの方が高速になると考えています（同時実行の問題は気にせず、解析する必要はなく、解凍してシリアル化を解除するだけです）。一度に 5 つのアイテムを取得して (DB 接続を削減するため)、それらをこのキャッシュに格納するカスタム イテレータが既にあります。しかし繰り返しになりますが、何千回も繰り返す必要がある場合に 30 のキャッシュを使用しても、まったく役に立ちません。

基本的に、これらの多くのアイテムをすばやく反復処理する方法が必要です。

私は、Matlab の「newrb」メソッドを使用してニューラル ネットワークでラジアル基本関数 (rbf) を使用しています。たとえば、パーセプトロンでは、決定境界は式 WX+b=0
W:weights、X:Inputs の線であり、b はバイアスです。rbf から複雑な決定境界結果を引き出すにはどうすればよいですか?
ありがとう。ハニ・アルムスリ……

しばらくの間、ニューラル ネットワークについて学ぼうとしてきましたが、オンラインでいくつかの基本的なチュートリアルを理解することができました。今、私はニューラル ネットワークを使用してオンラインの手書き認識を開発したいと考えています。だから私はどこから始めればいいのか分かりませんか？そして、私は非常に良い指示が必要です。最後に、私は Java プログラマーです。

あなたは私が何をすることをお勧めしますか?

私は ANN プログラミングに neurondotnet ライブラリを使用しています。私の入力層ベクトルは 400 で、出力層ベクトルは 5 で、学習用のサンプルは 28 しかありません。私の問題は、隠れ層の数を選択する方法がわからないことです。私は持っているべきであり、それらのベクトルのサイズ。誰かが私を正しい方向に向けることができますか? ありがとうございました。

私はニューラル ネットワークのコードを書いていますが、やるべきかどうか迷っています。double を使用しても良い結果が得られない可能性があり、コードを C++ などのより効率的な言語に移行する必要があるのではないかと、実際には少し心配しています。ここで、BigDecimal は double よりも 1000 倍遅いという質問を読みましたか? それは沢山。

一方、私は 10 進数で多くの作業を行う予定であり、より正確な数値を使用することは常に良いことです。精度が問題を引き起こす可能性があるかどうかもわかりません。私が見た実装のいずれもそれを行うとは思わないので、おそらくそれを行うつもりはありません。ただし、ネットワークが本来の動作をしないことがあります。それが精度エラーなのか、そのロジックの問題なのかはわかりません。

しかし、皆さんはお金を扱うときだけ BigDecimal を使用しますか? これについて何か考えはありますか？

ウェブページからの広告である画像を検出するアプリを構築しようとしています。それらを検出したら、クライアント側での表示を許可しません。

基本的に、バックプロパゲーション アルゴリズムを使用して、次のデータセットを使用してニューラル ネットワークをトレーニングしています: http://archive.ics.uci.edu/ml/datasets/Internet+Advertisements。

しかし、そのデータセットではありません。属性値が非常に高い。実際、このプロジェクトのメンターの 1 人が、これほど多くの属性を使用してニューラル ネットワークをトレーニングすると、トレーニングに時間がかかると言っていました。入力データセットを最適化する方法はありますか? それとも、それだけ多くの属性を使用する必要がありますか?