問題タブ [confluent-kafka-python]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - Cloud Dataflow への confluent-kafka のインストール エラー
うまくいっていることを願っています。
Kafka からデータを取り込む Dataflow パイプラインをデプロイしようとしています。そのために、lib confluent-kafkaを使用していますが、以下のエラーが発生しています。
NameError: 名前 'confluent_kafka' が定義されていません
すでに apt を使用して librdkafka-dev をインストールし、setup.py に confluent-kafka をインストールしていますが、エラーは解決しません。
ここに私のsetup.pyファイルがあります:
この問題を解決する方法についてのアイデアはありますか?
apache-kafka - Pythonでkafkaからの最新のオフセットから読み取る
confluent-kafka Python ライブラリを使用して kafka から読み取ります。次の消費者設定を使用しています
私の目標は、常にカフカで最新のメッセージを読むようにすることです。上記は、プログラムが実行されている限り機能します。しかし、何らかの理由でプログラムがクラッシュした場合、トピック内の最後のメッセージではなく、最後に消費されたメッセージから読み取りを開始します。
いくつかのメッセージが失われてもかまいませんが、常に最新のメッセージを読んでいることは絶対に必要です。コンシューマーがオフセットを覚えているように見え、最新のものではなくオフセットから開始します。
enable.auto.commit
パラメータを False に設定しようとしましたが、同じ結果が得られます。