0

巧妙に設計されたネットワークでさえ、どのような制限があるのか​​興味があります。特にこれは、私がいくつかの洞察を使用できるものです:

与えられた：

自明でないサイズのランダムな整数のセット (少なくとも 500 など)

専門的に作成/トレーニングされたニューラル ネットワーク。

仕事：

数値アナグラム:特定の時間枠で可能な整数の無限シーケンスの最大表現を作成します。シーケンスは、閉じた形式 (つまり - n^2、2x+5 など) で表現できるか、または OEIS に登録されています ( http: //oeis.org/ )。シーケンスの作成に使用される数値は、入力セットから任意の順序で取得できます。したがって、ネットワークに (3, 5, 1, 7...) が供給されている場合、(1, 3, 5, 7 ...) を返すことは許容できる結果になります。

ANN をトレーニングして、特定のシーケンス パターン (再び - n^2、2x+5 など) を探すことができることは、私の理解です。私が疑問に思っているのは、n^y や xy+z のようなより一般的なパターンを認識できるようにできるかどうかです。n^y は、安定した「基本パターン」を確立できないほど互いに異なって見えるシーケンスを生成する可能性があるため、それはできないだろうと私は考えています。つまり、ANN の動作 (一連の入力を取得し、検索するようにトレーニングされた静的パターンに対してファジー マッチングを行う) の本質は、検索するようにトレーニングできるものの範囲が制限されていることです。 .

私はこれを正しく理解していますか？

4

1 に答える 1

1

コメントであなたと交わした会話の続き：

ニューラルネットワークはまだ役に立つかもしれません。単一のパターンを検索するようにニューラル ネットワークをトレーニングする代わりに、データを予測するようにニューラル ネットワークをトレーニングできます。データに予測可能なパターンが含まれている場合、NN はそれを学習でき、NN の重みは学習したパターンを表します。それはあなたが意図していたことかもしれないと思います。

これを行うと役立つかもしれないいくつかのこと：

オートエンコーダーは教師なし学習を行い、個々のデータポイントの構造を学習できます。

リカレント ニューラル ネットワークは、個々のデータポイントだけでなく、一連のデータをモデル化できます。これは、あなたが探しているもののように聞こえます。

構成パターン生成ネットワーク( CPPN ) は、活性化関数として数学関数を使用するニューラル ネットワークを表す非常に凝った言葉です。これにより、シグモイドや ReLU などの単純な活性化関数を使用して、NN では簡単に近似できない関数をモデル化できます。しかし、通常、これは必要ないので、単純な NN が機能するようになるまでは、あまり心配する必要はありません。

ドロップアウトは、反復ごとに隠れユニットの半分を削除する単純な手法です。これにより、過剰適合が大幅に減少するようです。ニューロン間の複雑な関係が形成されるのを防ぎます。これにより、モデルがより解釈しやすくなり、目標のように見えます。

于 2015-04-15T01:50:02.763 に答える