問題タブ [neural-network]

私は 1 日中アプリケーションのプロファイリングを行っており、いくつかのコードを最適化した結果、これが私の ToDo リストに残されています。これは、1 億回以上呼び出されるニューラル ネットワークのアクティベーション関数です。dotTrace によると、これは全体の関数時間の約 60% に相当します。

これをどのように最適化しますか？

Google で見つけたこれらのサイトの多くは数学表記法を使用しており、それが何を意味するのかわからないため、次のようなフィードフォワード ニューラル ネットワークを作成したいと考えています。

誰かが o1 の値を見つける方法を説明してくれませんか? どの入力もアクティブでない場合、どのようにしてニューロンをアクティブにすることができますか?

現在、ニューラル ネットワーク ライブラリを構築しています。簡単にするために、オブジェクト グラフとして作成しました。配列ベースのアプローチに移行することによるパフォーマンス上の利点を誰かが定量化できるかどうか疑問に思っています。私が今持っているものは、任意の複雑さに近いネットワークを構築するのに非常にうまく機能します。通常の (バックプロップ) ネットワークとリカレント ネットワークがサポートされています。訓練されたネットワークを配列などの「より単純な」形式に「コンパイル」することを検討しています。

実稼働環境にうまくデプロイされたニューラル ネットワークの構築に関する実際的なアドバイスや経験を誰かが持っているかどうかを確認したかっただけです。最終製品をオブジェクト グラフ ベースではなく配列ベースにするメリットはありますか?

PS メモリ フットプリントは速度ほど重要ではありません。

私は人工ニューラル ネットワークに非常に興味がありますが、始める場所を探しています。

そこにはどのようなリソースがあり、どのプロジェクトを開始するのがよいでしょうか?

SharpNEATは、C# のNeuroEvolution of Augmenting Topologies (NEAT) ライブラリです。

全体がかなりエキサイティングに聞こえますが、いまいましいサンプル/チュートリアルがどこにも見つかりません!

どんな助けでも大歓迎です！

多層ニューラル ネットワークをトレーニングする場合、効果的に学習するにはシグモイド活性化関数を使用する必要があります。

単層パーセプトロンをトレーニングするときにシグモイド活性化関数を使用する利点はありますか、または単純なステップ (ヘビサイド) 関数で十分 (または望ましい) ですか?

私はゆっくりとニューラルネットワークについて頭を悩ませていますが、これに関する助けをいただければ幸いです。

問題を解決するための最善のアプローチについて、ここで専門家のガイダンスが必要です。私はいくつかの機械学習、ニューラル ネットワークなどを調査しました。私はweka、ある種のbaesianソリューション.. R..いくつかの異なることを調査しました。しかし、実際にどのように進めるかはわかりません。これが私の問題です。

私はイベントの膨大なコレクションを持っているか、持つ予定です。最終的には約 100,000 ほどになります。各イベントは、いくつか (30 ～ 50) の独立変数と、関心のある 1 つの従属変数で構成されます。従属変数の値を決定する上で、一部の独立変数は他の変数よりも重要です。そして、これらのイベントは時間に関連しています。10 年前の出来事よりも、今日の出来事の方が重要です。

ある種の学習エンジンにイベントを供給し、従属変数を予測できるようにしたいと考えています。次に、このイベント (およびそれ以前に発生したすべてのイベント) の従属変数の真の答えを知っているので、それを使用してその後の推測をトレーニングしたいと考えています。

プログラミングの方向性がわかったら、調査を行い、アイデアをコードに変換する方法を見つけます。しかし、私のバックグラウンドは並列プログラミングであり、このようなものではないので、これに関する提案とガイダンスがあれば幸いです。

ありがとう！

編集: ここで、私が解決しようとしている問題についてもう少し詳しく説明します。それは価格設定の問題です。ランダムな漫画本の価格を予測したいとしましょう。気になるのは価格だけです。しかし、考えつくことができる独立変数はたくさんあります。スーパーマンのコミックか、ハローキティのコミックか。これはどれくらい古いのですか？条件は何ですか？などなど。しばらくトレーニングした後、検討中の漫画に関する情報を提供できるようになり、漫画の妥当な期待値を与えてもらいたいと考えています。わかった。したがって、コミックは偽の例かもしれません。しかし、あなたは一般的な考えを得る。これまでのところ、答えから、サポートベクターマシンとナイーブベイズについていくつかの調査を行っています。これまでご協力いただきありがとうございました。

複製

人工ニューラル ネットワークについて学習するための優れたリソースは何ですか?

さまざまな種類のニューラル ネット/そのアプリケーション/例に関する優れた (初心者レベルの) 参考書 (または Web サイト) を探しています。特に用途は考えていません。私は特にPythonでそれらを使用することに興味がありますが、どの言語でも、または理論だけでも問題ありません。

人工知能分野 (ニューラル ネットワーク) から選んだトピックについて講演する準備をしています。私は、実生活で使用され、できれば複雑すぎない興味深いものを探しています (単純であればあるほど、学生は理解しやすくなり、興味を持ちやすくなります)。アドバイスを求めるのに良い場所だと思いました;）