3

具体的には、最新の実装です。

http://www.numenta.com/htm-overview/htm-algorithms.php

基本的に、非ユークリッド関係、または入力の次元を超えるパターンの関係が、現在の状態のアルゴリズムによって効果的に推測できるかどうかを尋ねています。

HTMは、パターンを分析するときに「隣接」を決定するためにユークリッド幾何学を使用します。一貫してフレーム化された入力により、アルゴリズムは予測動作を示し、シーケンスの長さは実質的に無制限になります。このアルゴリズムは非常によく学習しますが、入力データから非線形属性を推測する能力があるかどうか疑問に思っています。

たとえば、Project Gutenbergからテキストのセット全体を入力すると、英語のスペル、文法、および単語との性別の関連付けなど、主題からすぐにわかる機能を含む確率的なルールのセットが取得されます。など。これらは第1レベルの「線形」関係であり、論理ネットワークの確率で簡単に定義できます。

非線形の関係は、「時間は矢のように飛ぶ、果物はバナナのように飛ぶ」などの仮定と含意の関連です。正しく組み立てられている場合、文のあいまいさにより、文の予測的解釈が多くの可能な意味を生成します。

アルゴリズムが非線形関係を「理解」できる場合、最初のフレーズを処理して、「タイムフライ」が何かをしている時間について話していることを正しく識別できます。「ミバエ」は一種のバグです。

質問に対する答えはおそらく簡単に見つけることができますが、どちらの方法でも決めることはできません。入力を均一な2次元のユークリッド平面にマッピングすると、データの非線形属性の関連付けができなくなりますか?

非線形の関連付けが妨げられない場合は、解像度、繰り返し、およびその他の入力属性を変更するだけで、非線形関係の検出を自動化できます。つまり、アルゴリズムに「より難しい」プロセスが追加されます。

4

5 に答える 5

2

私がHTMについて理解していることから、層と柱の構造は新皮質の構造を模倣しています。こちらの付録Bを参照してください:http ://www.numenta.com/htm-overview/education/HTM_CorticalLearningAlgorithms.pdf

つまり、脳はこの構造で非線形現象を理解できるので、HTMも理解できるというのが簡単な答えです。

初期の瞬間的な感覚入力は、実際にHTM内の2D領域にマッピングされます。これは、HTMが2D表現を処理することに限定されるものではなく、ビットの1次元文字列が1次元のもののみを表現するように制限されているだけです。これは、スパース分散表現を形成し、その効率を利用できるように、ものをエンコードする方法にすぎません。

プロジェクトグーテンベルクについてのあなたの質問に答えるために、私は、言語が基づいており、そのための記号を作成する物理的な世界を最初に理解することなしに、HTMが実際に言語を理解するとは思わない。とは言うものの、これはHTMにとって非常に興味深いシーケンスです。予測は一方向にのみ行われ、ある意味で果物に何が起こっているのかを理解することは逆行するからです。つまり、パターン'が'のように飛ぶのを見て、そのフレーズが時間と同じように果物に適用されると仮定します。HTMは、後続の入力(この場合は単語)をより高いレベルでグループ化するため、Davide Maltoniが効果的であることが示されているように、ファジーグループ化(おそらく)を使用した場合、文の2つの半分を同じ高レベルの表現にグループ化できます。そして、フィードバックは2つの特定の文をリンクして送信される可能性があります。ヌメンタ、

于 2012-01-15T07:28:44.117 に答える
1

HTMを実行するソフトウェアは、NuPIC(Numenta Platform for Intelligent Computing)と呼ばれます。NuPIC領域(新皮質の領域を表す)は、受信するデータのタイプに応じて、トポロジーを使用するかどうかを構成できます。

トポロジを使用する場合、通常の設定では、各列が入力スペースの対応する位置を中心とする入力のセットにマップされます(接続は、中心を優先する確率分布に従ってランダムに選択されます)。次に、Spatial Pooler(SP)として知られるNuPICの空間パターン認識コンポーネントは、データ内のローカライズされた位相的特徴を認識して表現することを学習します。

NuPICが学習できる入力データの「線形性」にまったく制限はありません。NuPICは、非常に高次元の空間で空間パターンのシーケンスを学習でき、データ内の空間的および時間的構造の存在(または欠如)によってのみ制限されます。

質問の特定の部分に答えるために、はい、NuPICは非ユークリッドおよび非線形の関係を学習できます。これは、NuPICが線形システムではなく、線形システムでモデル化できないためです。一方、データの次元を超える次元の関係を推測することは論理的に不可能のようです。

オープンソースの実装であるHTMとNuPICについて知るのに最適な場所は、NuPICのコミュニティWebサイト(およびメーリングリスト)です。

于 2013-11-12T13:42:16.853 に答える
0

はい、それは非線形を行うことができます。基本的には多層です。そして、すべての多層ニューラルネットワークは非線形関係を推測できます。そして、近隣関係はローカルで計算されていると思います。ローカルで計算された場合、グローバルに、たとえばローカル線形埋め込みを見て、区分的に非線形になる可能性があります。

于 2012-07-18T17:31:53.980 に答える
0

はい、HTMはユークリッド幾何学を使用してシナプスを接続しますが、これは、樹状突起を送り出し、その時点で強力に活性化されている他の近くの細胞への接続を作成する生物学的システムを模倣しているためです。

皮質学習アルゴリズム(CLA)はシーケンスの予測に非常に優れているため、「時間は矢印のように飛ぶ、ショウジョウバエはのように飛ぶ」を決定し、「バナナ」が以前にこのシーケンスに遭遇したか、それに近いものであるかどうかを予測するのに適しています。 。ショウジョウバエをその順序で訓練しない限り、ミバエが一種の昆虫であると推測することはできないと思います。したがって、TはTemporalです。HTMは、シーケンスアソシエーションコンプレッサーおよびレトリバー(メモリの形式)です。HTMからパターンを取り出すには、シーケンスで再生します。これは、これまでに遭遇した最も強力な表現と一致し、シーケンスの次のビットを予測します。これは非常に優れているようで、現在のHTMの主なアプリケーションは、データストリームからシーケンスと異常を予測することです。

より複雑な表現とより多くの抽象化を取得するには、トレーニングされたHTM出力を別のHTM入力にカスケードし、他の新しいシーケンスベースの入力と相関させます。複数のHTMを組み合わせるために、フィードバックを配線したり、他のトリックを実行したりできると思いますが、構文に基づいて概念を関連付けるような高度なものを取得する前に、赤ちゃんと同じように、最初にプリミティブについて多くのトレーニングを行う必要があります。書かれた言葉。

于 2013-03-06T02:41:37.630 に答える
-2

わかりました、ばかげてはいけません。htmsはデータをコピーするだけです。概念が必要な場合は、データのグループになります。そうすれば、モーターを関係に依存させることができ、すべてが機能します。

私たちの皮質はおそらくはるかに優れており、実際には新しい画像を生成しますが、コンピュータの皮質はWONTですが、それは問題ではなく、すでに非常に便利です。

しかし、データプールから概念を引き出すのは難しいです。それを行う最も簡単な方法は、感覚の不変の組み合わせを記録することです。それが出てきたら、他のすべてをそれに関連付けます。これにより、生物や動物のような知性が得られます。

より難しい関係を描くことは、人間が行うことであり、そのアドホックロジックは、最もアドホックな関係を説明するセットを想像し、その後、正確な運動プログラムに到達するまで、徐々に具体的になります...そしてあなたが持っているすべての知識はモーターを制御し、皮質内の経路をトリガーする関係を作成し、すべてのモーターをチェックして最も成功したトリガーを見つけるブラスト検索から、どこに行くべきかを指示します。

一口でしたが、ダミーに気をつけてください。マシンのように、データプールで人々がどのように関係を描くかを理解しない限り、予測同化装置から概念を得ることができません。それ自体をプログラミングするプログラムのようなものです。

たわごとはありません。

于 2013-10-31T17:43:35.673 に答える