問題タブ [tensorrt]

私のネットワークには、現在の tensorRT でサポートされていない特定のレイヤーが含まれています。そのため、tensorRT で conv レイヤーとプーリング レイヤーを実行し、tensorRT からの出力を、いくつかの特定のレイヤーを含むカフェ モデルの入力として使用したいと考えています。参照できる API またはサンプル コードはありますか? ありがとう

次の tensorflow モデルの UFF への変換は、tf.matmul 操作で失敗します。

エラー：

私の実際のネットワークには、matmul の後にさらに多くの conv2d 操作があります。したがって、次のオプションを考えることができます。

1. TensorRT c++ API を使用してネットワーク全体を書き直します。(sampleMNISTAPI の例と同様)

2. ネットワークを 2 つの UFF ファイルに分割し、何らかの方法でそれらを 1 つのネットワークに結合します。このオプションがどれほど実現可能かはわかりません。

他のより良い代替手段はありますか？