問題タブ [openvino]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - TacotronモデルのOpenVINOでモデルオプティマイザの入力形状を設定するには?
KeithIto の Tacotron モデルを、NCS を使用して Intel OpenVINO で実行しようとしています。モデル オプティマイザーは、凍結されたモデルを IR 形式に変換できません。
Intel フォーラムで質問したところ、2018 R5 リリースには GRU サポートがないと言われ、LSTM セルに変更しました。しかし、モデルはトレーニング後も tensorflow でうまく動作します。また、OpenVINO を 2019 R1 リリースに更新しました。しかし、オプティマイザは依然としてエラーをスローしました。このモデルには主に、inputs[N,T_in] と input_lengths[N] の 2 つの入力ノードがあります。ここで、N はバッチ サイズ、T_in は入力時系列のステップ数、値はデフォルトの形状が [1,?] および [1] の文字 ID です。問題は [1,?] にあります。これは、モデル オプティマイザーが動的形状を許可しないためです。さまざまな値を試しましたが、常にいくつかのエラーがスローされます。
最終的なデコーダー出力である出力ノード「model/griffinlim/Squeeze」と、「model/inference/dense/BiasAdd」でグラフを凍結してみました ( https://github.com/keihito/tacotron/issues/ 95#issuecomment-362854371 ) これは Griffin-lim ボコーダーの入力であり、モデルの外側で Spectrogram2Wav 部分を実行して複雑さを軽減することができます。
また、グラフを凍結するさまざまな方法を試しました。
方法 1: グラフをダンプした後、Tensorflow で提供されている freeze_graph.py を使用します。
に続く:
方法 2: モデルをロードした後、次のコードを使用します。
フリーズ後に BatchNormalization レイヤーと Dropout レイヤーが削除されることを期待していましたが、エラーを見るとまだ存在しているようです。
環境
OS: Windows 10 プロ
パイソン 3.6.5
テンソルフロー 1.12.0
OpenVINO 2019 R1 リリース
オプティマイザーに関する上記の問題を解決できる人はいますか?
openvino - OpenVINO + HDDL プラグイン - openvino サンプルを実行できません - 「HDDL ハードウェアの初期化に失敗しました」
mPCIe Myriad X カード (2 つの MA2485 チップを搭載) で OpenVINO サンプルを動作させようとしています。
私の目標は、HDDL プラグインを使用してサンプルを動作させることです。私の理解では、複数のチップを並行して動作させることができるはずです。
「MYRIAD」プラグインを使用すると、ベンチマークは毎回正常に実行されます。
sudo -E ./demo_squeezenet_download_convert_run.sh -d MYRIAD
ただし、に切り替えると-d HDDL
、次のようになります。
さまざまな設定オプションをいじってみましたが、役に立ちませんでした。Ubuntuの再インストールも試みましたが、どちらもうまくいきませんでした。
Ubuntu 16.04.6、カーネル 4.4.0-148-generic を使用。
lshw エントリ:
${HDDL_INSTALL_DIR}/config/bsl.json (ここで複数の構成を試しましたが、何も機能しませんでした):