1

分散環境を正常にセットアップし、Horovodでサンプルを実行しました。また、TensorFlow 1 でベンチマークを分散セットアップ (4 ノードなど) で実行したい場合は、チュートリアルに従って次のように提出する必要があることも知っています。

$ horovodrun -np 16 -H server1:4,server2:4,server3:4,server4:4 \
    python scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py \
        --model resnet101 \
        --batch_size 64 \
        --variable_update horovod \
        --data_dir /path/to/imagenet/tfrecords \
        --data_name imagenet \
        --num_batches=2000

しかし今、BERT モデルなどの TensorFlow 2公式モデルを実行したいと考えています。どのコマンドを使用すればよいですか?

4

0 に答える 0