0

TF Serving で推論コンパイラ (特にONNXRuntimeTVMまたはTensorRT ) によって最適化されたモデルを提供することは可能ですか? それとも、TF Serving は、TensorFlow ランタイムで、TensorFlow によって作成された SavedModel のみを提供できますか?

4

0 に答える 0