python - sklearn に似た onnx(onnxruntime) で複数の推論を行う方法

Question

Python で onnxruntime を使用して、onnx モデルからの多くの入力に対して出力を推測したいと考えています。1 つの方法は for ループを使用することですが、これは非常に単純で遅い方法のようです。sklearn と同じ方法はありますか?

onnxruntime での単一予測:

import onnxruntime as ort
sess = ort.InferenceSession("xxxxx.onnx")
input_name = sess.get_inputs()
label_name = sess.get_outputs()[0].name

pred_onnx= sess.run([label_name], {
    input_name[0].name: np.array([[40]]).astype(np.int64),
    input_name[1].name: np.array([[0]]).astype(np.int64),
    input_name[2].name: np.array([[0]]).astype(np.int64)
})
pred_onnx

>> Output: [array([[23]], dtype=float32)]

sklearn の単一/複数予測 (のサイズに応じてx_test):

test_predictions = model.predict(x_test)