GPU を使用するために、ピープル カウンター アプリケーションの推論を高速化しようとしています。次の説明に従って、推論エンジンの構成設定を設定しました。
device_name = "GPU"
ie.SetConfig({ {PluginConfigParams::KEY_CONFIG_FILE, "./cldnn_global_custom_kernels/cldnn_global_custom_kernels.xml"} }, device_name);
推論エンジンにネットワークをロードして、以下のようにターゲット デバイスを設定しました。
CNNNetwork net = netReader.getNetwork();
TargetDevice t_device = InferenceEngine::TargetDevice::eGPU;
network.setTargetDevice(t_device);
const std::map<std::string, std::string> dyn_config = { { PluginConfigParams::KEY_DYN_BATCH_ENABLED, PluginConfigParams::YES } };
ie_.LoadNetwork(network,device_name, dyn_config);
しかし、推論エンジンはまだ CPU を使用しているため、推論時間が遅くなります。Intel GPU を最大電力で使用して、特定のネットワークで推論を行う方法はありますか? person-detection-retail-0013 モデルを使用しています。
ありがとう。