シグモイドでディープニューラルネットワークを使用しているときに勾配消失問題が発生し、 relu を使用するとこの問題は解決しますが、死んだニューロンの問題が発生し、漏れのある relu によって解決されることは誰もが知っています。RNN に勾配消失問題がある場合、なぜ LSTM に移行するのか。relu を使用して解決できない理由。
シグモイドでディープニューラルネットワークを使用しているときに勾配消失問題が発生し、 relu を使用するとこの問題は解決しますが、死んだニューロンの問題が発生し、漏れのある relu によって解決されることは誰もが知っています。RNN に勾配消失問題がある場合、なぜ LSTM に移行するのか。relu を使用して解決できない理由。