問題タブ [bert-language-model]

ドキュメントに10000語以上の長いテキスト分類タスクを実行しています。Bertを段落エンコーダとして使用し、段落の埋め込みをBiLSTMに段階的にフィードする予定です。ネットワークは以下の通りです。

入力: (batch_size, max_paragraph_len, max_tokens_per_para,embedding_size)

バート層: (max_paragraph_len,paragraph_embedding_size)

lstm レイヤー: ???

出力層: (batch_size,classification_size)

ケラスでそれを実装する方法は? 私はケラスの load_trained_model_from_checkpoint を使用してバートモデルをロードしています

私はbertとkerasを使って私の研究のための分類器を構築しようとしています.

Xが文内の単語とスペースの数である場合、バートエンコーディング（形状-（1、X、768））を取得しました。

X が一貫していない場合、どうすれば keras モデルを構築できますか?

たとえば、原文があります。吠えるという言葉は、欠落している言葉に対応します。

たとえば、BERT モデルを使用すると、吠えるという単語ではなく、泣くという単語を予測します。予測された単語が構文的に正しく、意味的に一貫性があるかという観点から、BERT モデルの精度をどのように測定しますか?

(たとえば、不完全な文がたくさんあり、タスクはこれらの不完全な文に基づいて BERT の精度を評価することです。)助けてください。

以下のリンクにあるコードを実行しています。Python の ktrain パッケージがバート テキスト分類に使用する埋め込みは何ですか。コードは事前にトレーニングされた Bert のモデルを使用していると思います。つまり、bert 埋め込みと入力埋め込みを組み合わせます。モデルへの埋め込みでは、指定された入力テキストも考慮されますか

コードの関連部分

https://github.com/amaiya/ktrain/blob/master/examples/text/20newsgroups-BERT.ipynb

BERT で Excel 2016 マクロを実行しようとしています。スプレッドシート内で、マクロを「Button_To_Click」というボタンとして操作できます。これは、Excel ドキュメントのマクロ リスト内のマクロの名前でもあります。コマンドを使用しEXCEL$Application.Run("BERT.Call", "Button_To_Click")てメッセージを受信して​​いますError: attempt to apply non-function。

BERT または VBA 関連のものを使用するのはこれが初めてであり (私は R に精通しています)、Excel で作成および保存されたマクロを BERT で機能させる方法についてのドキュメントは不明確です。より完全な例を以下に示します。