5

Kafkaトピックで約2000000のメッセージがあり、NiFiを使用してこれらのレコードをHDFSに入れたいので、これにPutHDFSプロセッサを使用してConsumeKafka_0_10いますが、HDFSに小さなファイルが生成されるため、レコードをマージするためにMerge Contentプロセッサを使用していますファイルをプッシュする前に。 ここに画像の説明を入力 設定の変更が必要な場合は助けてください これは少数のメッセージには問題なく機能しますが、大量のデータを含むトピックに関しては、レコードごとに 1 つのファイルを書き込みます。

ありがとうございました!!

4

1 に答える 1