今日、私は心理学者に、設計者よりも知的な人間を評価するための IQ テストを設計するにはどうすればよいか尋ねました。彼は私に答えた、チェスゲームのプログラムをデザインできるのと同じように、デザイナーはそれに勝つことはできない!
ただし、ここで質問に答えることができるかどうかは初心者としてはわかりませんが、人間 (プログラマーでさえ) が予測できないように、プログラムが進化し、それ自体で学習できるようになると興味深いです。答えが間違っていることを願っています。そうでなければ、将来、ウイルスやワームが予測不可能な動作をし、人間社会を支配する可能性があります。
人工知能エージェントは、プログラムされた空間内で動作します (チェスをプレイするエージェントは、チェスをプレイする空間内にあります)。
エージェントは、プログラムされた空間を離れることはできません。チェスをするエージェントがすぐに世界を支配する可能性は低い. そういう意味では予想できます。
この空間での動作はある程度予測可能です (この動作は結局のところ、明確に定義された数学方程式に基づいています) (これらの方程式は通常非常に複雑であるため、簡単に予測することはできませんが、可能です)。予測できません。
「知性」は予測可能性と同じではないことに注意してください。研究者たちは長い間、AI を真にインテリジェントなものにしようとしてきましたが、その進歩は (ほぼ間違いなく) ゆっくりでした。
編集：
一部のエージェントは、プログラムされた空間を全世界にすることができることに注意してください。これは多くの境界を強制しません。
「プログラムされた空間」とは、エージェントが監視または実行するようにプログラムされていることほど、エージェントにプログラムされたものを意味するわけではありません。エージェントがチェス盤しか見えず、チェスの動きしかできない場合、どうしてチェスをするエージェント以上になるのでしょうか?
真の進化は、エージェントがプログラムされた空間を拡張することを可能にするかもしれませんが、これが実際に可能かどうかを考える必要があります.
可能です。チェスのプログラムは、実際に設計者を大幅に上回っています。彼らはチェスの世界チャンピオンをわずかな差で打ち負かしましたが、それは時間の問題です。
「より速く学習する方法を学習する」システムの例があります。地球上の進化はそれ自体を最適化しました。遺伝子と行動は、わずかな改善率を高めるために最適化されています。生殖が失敗することはほとんどなく、遺伝子には自然の欠陥 (放射線、化学プロセスなど) による適切な量の突然変異があります。「チューナブル」は適切に設定されています。
質問のテキストは、次の2 つの状況を説明していると思います。
最初の alinea は、IQ テストとチェス ゲームをカバーしています。どちらも選択肢が限られています。多くの可能性がありますが、特定の数に制限されており、使用が少なすぎて考慮できないため、最初から多くの可能性を除外できます。したがって、このようなプログラムが存在します。ただし、まだ多くの可能性があり、まだ完全ではないことに注意してください。
2 番目の領域は、自己学習プログラムまたはロボットを対象としています。現実の世界には無限の可能性、起こり得ることがある。プログラムをコーディングしようとするかもしれませんが、(近い将来) 人生が提供するすべてのものを手に入れる方法はありません。
以下のデューケリングのコメントにコメントする必要があります。人生が提供しなければならないほとんどすべてのもの (否定的な部分を含む) に反応することを学ぶことができるプログラムをコーディングすることができれば、そのような AI はおそらく自分の「空間」を評価し、外を見たり、外に出たりすることさえできます。それ。
簡単に言えば、それは起こります。その結果がどうなるかは不明です。ロボットが完全にプログラムされているか、シャットダウンされるか、人類が絶滅するかのいずれかです。現在では想像もできないようなペースで技術が進歩するため、あらゆるシナリオが可能です。疑問がありますか？50 年前にチェスで機械が最高のプレイヤーを打ち負かしたと誰かに話してください。