0

私は現在、対数尤度関数の直接最適化を使用して (前方後方アルゴリズムを介して)、多くのパラメーターを持つマルコフ スイッチング モデルを推定しています。尤度関数が非常に高次元であるだけでなく、多くのローカルな最大値であり、高度に非線形です。遺伝的アルゴリズムは非常にうまく機能しているようです。ただし、問題の次元をさらに大きくする予定です。マルコフ スイッチング モデルを推定する EM アルゴリズムについて読んだことがあります。私が理解していることから、このアルゴリズムは増加する対数尤度値のシーケンスを解放します。したがって、非常に多くのパラメータを持つモデルを推定するのに適しているようです。

私の質問は、EM アルゴリズムが多くのパラメーターを含む私のアプリケーションに適しているかどうかです (おそらく、遺伝的アルゴリズムとして適しています)。速度は主な制限ではありません (遺伝的アルゴリズムはすでに非常に遅いです) が、最終的に大域的最適値に近づき、多くの局所的最適値の 1 つに遭遇しないようにするためには、ある程度の確実性が必要です。これに関する経験や提案はありますか？

4

1 に答える 1

0

EM アルゴリズムは局所的な最適値を見つけますが、それらが全体的な最適値であることを保証するものではありません。実際、遷移確率の 1 つがゼロである HMM で開始すると、通常、その確率はゼロから変化することはありません。これらの遷移は、期待値ステップで期待値ゼロでのみ現れるため、これらの開始点には希望がありません。その遷移確率ゼロを持たない大域的最適解を見つける方法。

これに対する標準的な回避策は、さまざまな異なるランダム パラメータ設定から開始し、見つかった最高のローカル最適値を選択して、最善を期待することです。かなりの割合の実行が見つかった同じ (または同等の) 最良の局所最適値に収束した場合、少なくとも同じ割合のランダムな開始からより良いものが見つかるというあまり信頼できない理論に基づいて、少し安心するかもしれません。もう現れただろう。

私はそれを詳細に解決していませんが、EM アルゴリズムは非常に一般的な一連の問題を解決するため、大域的最適解を見つけることが保証されている場合、前例のない効率で NP 完全問題の解を見つけることができると期待しています。 .

于 2016-03-12T19:05:06.247 に答える