問題タブ [tfx]

現在、TensorFlow Extended (TFX) パイプラインを介して、いくつかの多価機能列を含むデータセットをフィードしようとしています。サンプルデータの行は次のとおりです。

ご覧のとおり、列 (機能) touched_product_id、liked_product_id、disliked_product_idは多価です。

ここで、このデータを TFX の検証レイヤーにフィードするために、以下のガイドに従っています。

https://www.tensorflow.org/tfx/tutorials/tfx/components_keras

ガイドに従って、TFRecordのインスタンスを使用していくつかのファイルをCSVExampleGen生成し、以下に示すように統計とスキーマの生成に進みます。

上記のコードによって表示される最終的なスキーマは次のとおりです。

明らかに、多価機能は一価であると誤って推測されています。これを修正するために、プロトを手動でロードし、プロパティSchemaを調整しようとしました。valence

valence驚いたことに、プロパティがないため、明らかに最後の行は機能しません。プロトの仕様を調べてみましたが、プロパティSchemaが見つかりませんでした。valenceこれを解決する方法を知っている人はいますか？どんなガイダンスも素晴らしいでしょう。

pytorch を使用して画像分類モデルをトレーニングしました。
今、私はそれを研究から生産パイプラインに移したいと考えています。
TensorFlow extended の使用を考えています。PyTorch でトレーニングしたモデルを TensorFlow 拡張パイプラインで使用できるかどうかについては、まったく疑いがありません (トレーニング済みモデルを ONNX に変換してから、Tensorflow 互換フォーマットに変換できます)。オーバーヘッドが大きくなるため、トレーニング部分を TensorFlow に書き直して再トレーニングしたくありません。それは可能ですか、または PyTorch でトレーニングされたモデルを製品化するためのより良い方法はありますか?

現在、TFX パイプラインのトレーナー コンポーネントを、同じパイプラインの前回の実行からウォーム スタートしようとしています。使用例は次のとおりです。

1. パイプラインを 1 回実行し、モデルを生成します。
2. 新しいデータが入ってきたら、既存のモデルを新しいデータでトレーニングします。

コンポーネントがこの目的のために設計されていることは認識しているResolverNodeので、以下でそれをどのように使用するかを確認できます。

上記のコンポーネントは正常に実行さResolverNodeれ、以前のパイプライン実行から最新のモデルを検出できます。エラーはスローされませんが、 を実行するcontext.run(trainer)と、モデルの損失は基本的に最初に開始した場所から始まります。モデルの最初の実行後、トレーニング ロスは ~0.1 で終了しますが、2 回目の実行 (想定されるウォーム スタートを使用) では、~18.2 に戻ります。

これにより、すべての重みが再初期化されたと思われますが、これは発生すべきではないと思います。以下は、関連するモデル構築関数です。

問題を調査するために、私は熟読しました：

TFX からのウォーム スタートの例 https://github.com/tensorflow/tfx/blob/master/tfx/examples/chicago_taxi_pipeline/taxi_pipeline_warmstart.py

ただし、このガイドEstimatorでは Keras コンポーネントの代わりに コンポーネントを使用します。そのコンポーネントにはwarm_start_from、Keras に相当するものを見つけることができなかった初期化パラメーターがあります。

私は疑う:

1. ウォーム スタート機能はコンポーネントでのみ使用でき、Keras コンポーネントに設定されEstimatorていても有効になりません。base_model

2. 以前のモデルを正常にロードした後でも、重みを再初期化するようにモデルに何らかの方法で指示しています。その場合、それがどこで起こっているかについてのポインタが欲しいです。

どんな援助も素晴らしいでしょう！どうもありがとう。