machine-learning - ハイパーパラメータをより簡単に取得するにはどうすればよいですか？

Question

機械学習の多くのモデルには、ハイパーパラメータが含まれています。ホールドアウトデータを使用してこれらのハイパーパラメータを見つけるためのベストプラクティスは何ですか？またはそれを行うためのあなたの方法は何ですか？

Answer 1

グリッド検索と手動検索は、機械学習アルゴリズムのハイパーパラメーターを最適化するために最も広く使用されている手法です。ただし、 JamesBergstraとYoshuaBengioが発表した最近の論文では、ハイパーパラメータの最適化には、グリッド検索や手動検索よりもランダム検索の方が優れていると主張しています。ランダム（グリッドおよび手動）検索の詳細については、彼らの論文を参照してください。

ハイパーパラメータ最適化のランダム検索

最近、私はパターン認識レタージャーナルに論文を提出（そして受理）しました。その論文では、ランダム検索手法を使用しました。