問題タブ [convergence]

Matlab でグローバル最適化ツールボックスを使用して遺伝的アルゴリズムを実行しています。最適な値の差が <=10^{-15} になるまでアルゴリズムを実行できるようにしたいと考えています。この目的で ftol と ctol を使用しようとしましたが、アルゴリズムは 541 回の反復で終了します。どんな提案でも大歓迎です！

私の目的関数の例は次のとおりです。

GAコードは

私は TensorFlow で遊んでいて、次のチュートリアルを見ていました。

https://github.com/aymericdamien/TensorFlow-Examples/tree/0.11/examples/3_NeuralNetworks

MNINST データベースを作成したくなかったので、8000 のトレーニング サンプルで作成したデータを使用してスクリプトを変更しました。評価は、300 のテスト サンプルで行われます。出力はバイナリ分類です。私は機械学習に飛び込んだばかりで、今のところ私の知識はかなり限られていることに注意してください.

スクリプトは正常に動作しますが、コストが非常に高い値にとどまり、0 に収束しません。まず、これは正常ですか? どうすればこれを改善できますか? 私は何か間違ったことをしましたか？第二に、精度もあまり良くありません。収束が悪いためですか? モデルをトレーニングするには 8000 では足りないのではないでしょうか? または、値が分散しすぎて、実際により良い精度を得ることができません。

ここで同様の問題を見つけました：

回帰用の tensorflow ディープ ニューラル ネットワークは、常に 1 つのバッチで同じ結果を予測します

しかし、この問題が私に当てはまる理由や方法がわかりません。

誰か助けてくれませんか？

出力は次のとおりです。

そして最後に私は得る：

コードは次のとおりです。

私は MATCONVNET DagNN を使用しています。AlexNet アーキテクチャの使用。私のアーキテクチャの最後の数層は

各エポックの結果を添付に示します。エラーと目的が収束しないのはなぜですか? 回帰損失は MSE 損失です。