0

Pykafka コンシューマーからデータを取得する方法がわかりません。消費者からトピックを印刷することさえ問題があります。問題は、コンシューマーで呼び出すメソッドが何であれ、プロセスが永久にハングしていることです。コンシューマーを使用せずに初期化すると、プロセスは終了します。事前に助けてくれてありがとう。

def getData(spark):
    spark.sparkContext.setLogLevel("WARN")
    scc = StreamingContext(spark, 1)
    topic = "justtopic"
    client = pykafka.KafkaClient("localhost:9092")      
    KAFKA_VERSION = (0, 10)
    print("topics", client.topics)                        <-- this line is working

    consumer = KafkaConsumer(
        'justtopic', bootstrap_servers = 'localhost:9092',
        api_version = KAFKA_VERSION
    )

    print(consumer.topics())                         <-- if i call some function on consumer it hangs forever.
    #rdd = kafkaStream.flatMap(lambda line: line.strip().split("\n")).map(lambda strelem: float(strelem))
    # print("****** ", rdd.count())

4

0 に答える 0