Pykafka コンシューマーからデータを取得する方法がわかりません。消費者からトピックを印刷することさえ問題があります。問題は、コンシューマーで呼び出すメソッドが何であれ、プロセスが永久にハングしていることです。コンシューマーを使用せずに初期化すると、プロセスは終了します。事前に助けてくれてありがとう。
def getData(spark):
spark.sparkContext.setLogLevel("WARN")
scc = StreamingContext(spark, 1)
topic = "justtopic"
client = pykafka.KafkaClient("localhost:9092")
KAFKA_VERSION = (0, 10)
print("topics", client.topics) <-- this line is working
consumer = KafkaConsumer(
'justtopic', bootstrap_servers = 'localhost:9092',
api_version = KAFKA_VERSION
)
print(consumer.topics()) <-- if i call some function on consumer it hangs forever.
#rdd = kafkaStream.flatMap(lambda line: line.strip().split("\n")).map(lambda strelem: float(strelem))
# print("****** ", rdd.count())