問題タブ [confluent-kafka-python]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
0 に答える
137 参照

python - Cloud Dataflow への confluent-kafka のインストール エラー

うまくいっていることを願っています。

Kafka からデータを取り込む Dataflow パイプラインをデプロイしようとしています。そのために、lib confluent-kafkaを使用していますが、以下のエラーが発生しています。

NameError: 名前 'confluent_kafka' が定義されていません

すでに apt を使用して librdkafka-dev をインストールし、setup.py に confluent-kafka をインストールしていますが、エラーは解決しません。

ここに私のsetup.pyファイルがあります:

この問題を解決する方法についてのアイデアはありますか?

0 投票する
2 に答える
637 参照

apache-kafka - Pythonでkafkaからの最新のオフセットから読み取る

confluent-kafka Python ライブラリを使用して kafka から読み取ります。次の消費者設定を使用しています

私の目標は、常にカフカで最新のメッセージを読むようにすることです。上記は、プログラムが実行されている限り機能します。しかし、何らかの理由でプログラムがクラッシュした場合、トピック内の最後のメッセージではなく、最後に消費されたメッセージから読み取りを開始します。

いくつかのメッセージが失われてもかまいませんが、常に最新のメッセージを読んでいることは絶対に必要です。コンシューマーがオフセットを覚えているように見え、最新のものではなくオフセットから開始します。

enable.auto.commitパラメータを False に設定しようとしましたが、同じ結果が得られます。