python - ドメイン固有の表現学習タスクのためにbertモデルをトレーニングするにはどうすればよいですか?

Question

kmeans を使用した類似性とクラスタリングをテストしながら文変換モデルを使用して、特定のタイプのテキストに対して適切な文埋め込みを生成しようとしていますが、良い結果は得られません。改善するためのアイデアはありますか？データセットで文変換モデルをトレーニングすることを考えていました（これは単なる文ですが、ラベルはありません）。特に ny データで既存のモデルを再トレーニングして、より良い埋め込みを生成するにはどうすればよいですか。ありがとう。