architecture - ニューラル ネットワーク エキスパート システム

Question

ニューラル ネットワークを使用してエキスパート システムをエミュレートする方法を知っている人はいますか? この例は、20q.net Web サイトです。

私は、ネットワークがどのように設計されるかについてもっと興味があります。つまり、入力の数、入力が表すもの、ネットワークからの出力、これらの出力がどのように答えを指しているかなどです。非常に興味深いもの。

Answer 1

エキスパート システムは、ニューラル ネットワークとは非常に異なるシステムです。

これらのシステムは、アーキテクチャと用途の両方に関して、多くの点で異なります。

エキスパート システム(少なくとも伝統的な用語の理解では) は、[通常] 高レベルのルールによって駆動されます。このルールは、エンジンが入力に沿って使用し、入力に関する結論を推測します。通常、ルールは明示的に入力され、本質的に、特定のドメインの専門家によって作成されたいくつかのステートメントが、エキスパート システムで実装されている述語表現に変換されます。

一方、ニューラル ネットワーク(NN) は、トポロジを手動または明示的に設定することができますが、それ以外の場合は通常、一部の入力または入力シーケンスを特定の出力に関連付ける方法を自動的に学習できます。

上記の説明は確かに両方の概念、特に多くの異なる形式とフレーバー (パターン認識をはるかに超えた多くの異なる用途を持つ) で提供されるニューラル ネットの還元ですが、これらのシステムがいかに大きく異なるかを理解するのに役立つことを願っています。 .

顕著な違いの 1 つは「透明性」に関するものである可能性があります。これにより、エキスパート システムは通常、推論の「説明」を出力できます (「入力 1 とルール #3 は、81% の確率で結論 A を示します」)。ブラックボックスになります。これは、NN がその世界を非常に正確に「理解」できないということではありません (そして、そのような理解は、ネットワークのトポロジーと、さまざまな入力やニューロンに関連付けられた相対的な重みにカプセル化されます)。彼らの世界については、平易な英語に簡単に翻訳されることはありません。透明性に関しては 、非常に大まかに言うと、NN は数式に少し似ています。つまり、エキスパート システムはレシピ本のようなものです。

上で示唆したように、もう 1 つの注目すべき違いは、エキスパート システムでは明示的なルール (「温度が 200 度を超えると、安全弁が開き始める」) の変換と読み込みが必要になることです。それに提供されるトレーニング セット (ラベル付き入力セットなど)。

Answer 2

Q20 ニューラル ネットワークがどのように機能するかはわかりませんが、ニューラル ネットワークを使用して、信念ネットワークの接続をトレーニングできます。基本的に、すべての質問には、以前に質問された質問の出力に基づいて変更される「質問されたいという欲求」があります。つまり、最初の「欲求」が最も高い 3 つの質問は、「それは動物ですか?」である可能性があります。「野菜ですか？」または「ミネラルですか？」ネクタイを割って、「それは動物ですか？」と言ってみましょう。その人が「はい」と答えた場合、「髪の毛はありますか？」などの質問をする確率/欲求が高まります。「マメ科植物ですか？」などの質問の可能性を減らします。

このスキームでは、ニューラル ネットワークで実行できるデルタ確率関数のパラメーターになります。つまり、次に「毛はありますか？」と聞く確率をどれだけ増減させるかの判断です。「動物ですか？」→TRUE、「毛はありますか？」の成否に基づいて行うことができます... [結果]非常に多くのゲームで。これはNNで行うことができますが、NNが効率的であるということはまったく直感的ではないことに注意してください.ベイズから「サポートベクターマシン」までの統計的方法は、リンケージを変更する代替方法です.よりよく学ぶための質問の間に。

AI に関する私の経験に基づくと、すべての質問をポットに入れ、それらを完全に相互接続するだけでは成功しないのではないかと思います。むしろ、目標を達成する一連のサブネットを用意する必要があります。でも、よくわかりません。Q20 アルゴリズムの驚くべき点の 1 つは、個別のサブゴールがないように見えることです。いつでも任意の質問を見ることができると思います。とても印象的です。

Answer 3

これはいくらかオープンエンドの質問であるか、少なくともここで答えるのが難しい質問です. http://www.cs.waikato.ac.nz/ml/weka/とhttp://marsyas.sness.net/をチェックして 、データ マイニングと機械学習アルゴリズムの興味深いドキュメントと実装を確認してください。

Answer 4

これらはまったく相容れないトピックです。

エキスパート システムは、一連のルールと推論エンジンに依存しています。一連のルールはナレッジ エンジニアによって与えられます。ルールは「if-then」ステートメントであり、読みやすく、修正しやすく、維持しやすいなどです。

一方、ニューラル ネットワークはむしろブラック ボックスとして認識されます。重みとニューロンは入力/出力パターンに基づいて適応しますが、これらの重みはルールとして表されません。入力は出力を提供するためにさまざまな計算で使用されるため、推論エンジンはありません。

NN からいくつかのルールを抽出できるケースはほとんどありません (たとえば、Fuzzy ARTMAP のルール抽出を参照)。しかし、私の知る限り、そのようなアプローチは実際にはめったに遭遇しません。ネットワークの具体的なアーキテクチャに大きく依存するプロセスである、NN に埋め込まれた知識のリバース エンジニアリングが始まろうとしています。

もう 1 つの大きな違い: NN は数値入力専用に使用できます (非数値入力は数値に変換する必要がありますが、これは非自然なプロセスである場合があります) が、エキスパート システムは公称値を受け入れます。

Answer 5

できることは、特定のルールまたは一連のルールをニューラル ネットワークに置き換えてから、それらのニューラル ネットワークへの呼び出しをツリー (単純な質問応答システムがしばしば開始されるのと同様) または順番に作成するリストに構造化することです。ある種のグラフネットワークを介して、またはその中で作業します。失うものは、エキスパート システムで使用される関数で使用するニューラル ネットワークを構築しない限り、組み込みの RETE ネットワーク実装です。実際には、N 個のルールを表す一連の入力でニューラル ネットワークをトレーニングすることもできます。この場合、ニューラル ネットワークは、パターンを一般化するのではなく、入力と出力のパターンを記憶するだけです。