deep-learning - GPU で ONNX モデルを実行するにはどうすればよいですか?

Question

ONNX モデルを実行しようとしています

import onnxruntime as ort
import onnxruntime.backend
model_path = "model.onnx"

#https://microsoft.github.io/onnxruntime/
ort_sess = ort.InferenceSession(model_path)


print( ort.get_device()  )

これは印刷されます

cpu

GPU で実行するにはどうすればよいですか? 動作していることを確認するにはどうすればよいですか?

Answer 1

onnxruntime-gpu のバージョンは cuda と cudnn のバージョンと一致している必要があります。公式 Web サイトからそれらの関係を確認できます: https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html