問題タブ [cntk]

リーダーの randomizationWindow パラメータについて簡単な質問があります。ドキュメントには、メモリ内のデータの量を制御すると書かれていますが、データのランダム性にどのような影響があるかは少しわかりません. トレーニング データ ファイルが 1 つのデータ分布で始まり、別の完全に異なる分布で終わる場合、ランダム化ウィンドウをデータ サイズよりも小さく設定すると、トレーナーに供給されるデータは均一な分布からのものではなくなりますか? 再確認したかっただけです。

Progress Printer のコンストラクターのさまざまなパラメーターが何を意味するかをより適切に文書化できますか?

https://cntk.ai/pythondocs/cntk.utils.html#module-cntk.utils.progress_print

私はこのチュートリアルに取り組んでいます：

https://github.com/Microsoft/CNTK/blob/master/Tutorials/CNTK_201B_CIFAR-10_ImageHandsOn.ipynb

テスト/トレーニング データ ファイルは、次のような画像ファイル名と正しいラベルを含む単純なタブ区切りのテキスト ファイルです。

ミニバッチから元のラベルを抽出するにはどうすればよいですか?

私はこのコードで試しました:

しかし、上で見たように、結果はラベル付きの配列ではありません。

ラベルに到達するための正しいコードは何ですか?

このコードは機能しますが、ImageDeserializer ではなく別のファイル形式を使用します。

ファイル形式:

作業コード:

ImageDeserializer を使用する場合、入力のラベルを取得するにはどうすればよいですか?

私はこのチュートリアルに取り組んでいます：

https://github.com/Microsoft/CNTK/blob/master/Tutorials/CNTK_201B_CIFAR-10_ImageHandsOn.ipynb

テスト/トレーニング データ ファイルは、次のような画像ファイル名と正しいラベルを含む単純なタブ区切りのテキスト ファイルです。

次のようなミニバッチを作成するとします。

テスト データ ファイルの最初の列にあった画像のファイル名を取得するにはどうすればよいですか?

私はこのコードで試しました：

ただし、その結果、画像自体のバイトが印刷されます。

ここのドキュメントを見ています: https://github.com/Microsoft/CNTK/wiki/Multiple-GPUs-and-machines

テキストによると、「Data-Parallel SGD は、1bit-SGD の有無にかかわらず使用できます。」

ただし、このドキュメントの後に続くのは、1 ビット SGD を使用するデータ並列関連のセクションのみです。「1 ビット SGD を使用したデータ並列トレーニング」には、次のコードがあります。

1 ビット SGD を使用しない (上記の呼び出しで関連するパラメーターをスキップする) ことを選択した場合でも、data_parallel_distributed_learner の並列化の利点を得る必要があると思います。これが事実であることを確認していただけますか？

ありがとうございました

事前トレーニング済みの埋め込みをレイヤーにロードすることはできないようです。こちらをご覧ください

回避策として私が行ったことは次のとおりです。

次の形式のembeddings.txtを使用します。行数は使用する語彙の単語数で、列数は埋め込み用に選択した次元です: -0.126074999570847 ... ...

上記は正しい回避策のように思えますか? トレーニング セッションを開始しましたが、埋め込みレイヤーをトレーニングしたときと比べてパラメーターの数が減っています。

Microsoft Cognitive Network Toolkit の推奨または最小システム要件はありますか? この情報は、git のどこにもありません。