2

アプリケーションを spring-kafka (spring-integration-kafka ではない) と統合しています。プロジェクトの春のドキュメントは次のとおりです。http://docs.spring.io/spring-kafka/docs/1.0.1.RELEASE/reference/htmlsingle

プロデューサーは完全に動作しますが、コンシューマーはメッセージを消費していません。任意のポインター。

これが私の構成です:

@EnableKafka
public class MyConfig {

    @Value("${kafka.broker.list}") // List of servers server:port,
    private String kafkaBrokerList;

    @Bean
    public KafkaListenerContainerFactory<ConcurrentMessageListenerContainer<Integer, Message>> kafkaListenerContainerFactory() {
        ConcurrentKafkaListenerContainerFactory<Integer, Message> factory = new ConcurrentKafkaListenerContainerFactory<>();
        factory.setConsumerFactory(consumerFactory());
        factory.setConcurrency(12);
        factory.getContainerProperties().setPollTimeout(3000);
        factory.getContainerProperties().setIdleEventInterval(60000L);
        factory.setAutoStartup(Boolean.TRUE);
        factory.setMessageConverter(new StringJsonMessageConverter());
        return factory;
    }

    @Bean
    public ConsumerFactory<Integer, Message> consumerFactory() {
        JsonDeserializer<Message> messageJsonDeserializer = new JsonDeserializer<>(Message.class);
        return new DefaultKafkaConsumerFactory<>(consumerConfigs(), new IntegerDeserializer(), messageJsonDeserializer);
    }

    @Bean
    public Map<String, Object> consumerConfigs() {
        Map<String, Object> props = new HashMap<>();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, kafkaBrokerList);
        props.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, true);
        props.put(ConsumerConfig.AUTO_COMMIT_INTERVAL_MS_CONFIG, 10000);
        props.put(ConsumerConfig.SESSION_TIMEOUT_MS_CONFIG, 15000);
        props.put(ConsumerConfig.CONNECTIONS_MAX_IDLE_MS_CONFIG, 60000);
        props.put(ConsumerConfig.RETRY_BACKOFF_MS_CONFIG, 10000);
        return props;
    }

    @KafkaListener(topics = "myTopic", containerFactory = "kafkaListenerContainerFactory")
    public void listen(@Payload Message message) {
        System.out.println(message);
    }

}

**より多くの情報で編集**

ゲイリーさん、返信ありがとうございます。ログに例外はありません。またKafkaTemplate、同様の構成で試してみたところ、メッセージをキューに発行できましたが、消費者にとってはうまくいきませんでした。Message オブジェクトの代わりに String を使用するようにコードを変更しています。ログの一部は次のとおりです。

2016-07-11 09:31:43.314 INFO [RMI TCP Connection(2)-127.0.0.1] o.a.k.c.c.ConsumerConfig [AbstractConfig.java:165] ConsumerConfig values: 
    metric.reporters = []  
    metadata.max.age.ms = 300000  
    value.deserializer = class org.apache.kafka.common.serialization.StringDeserializer  
    group.id = 
    partition.assignment.strategy = [org.apache.kafka.clients.consumer.RangeAssignor]  
    reconnect.backoff.ms = 50  
    sasl.kerberos.ticket.renew.window.factor = 0.8  
    max.partition.fetch.bytes = 1048576  
    bootstrap.servers = [app1.qa:9092, app1.qa:9093, app2.qa:9092, app2.qa:9093, app3.qa:9092, app3.qa:9093]  
    retry.backoff.ms = 10000  
    sasl.kerberos.kinit.cmd = /usr/bin/kinit  
    sasl.kerberos.service.name = null  
    sasl.kerberos.ticket.renew.jitter = 0.05  
    ssl.keystore.type = JKS  
    ssl.trustmanager.algorithm = PKIX  
    enable.auto.commit = true  
    ssl.key.password = null  
    fetch.max.wait.ms = 500  
    sasl.kerberos.min.time.before.relogin = 60000  
    connections.max.idle.ms = 60000  
    ssl.truststore.password = null  
    session.timeout.ms = 15000  
    metrics.num.samples = 2  
    client.id =   
    ssl.endpoint.identification.algorithm = null  
    key.deserializer = class org.apache.kafka.common.serialization.IntegerDeserializer  
    ssl.protocol = TLS  
    check.crcs = true  
    request.timeout.ms = 40000  
    ssl.provider = null  
    ssl.enabled.protocols = [TLSv1.2, TLSv1.1, TLSv1]  
    ssl.keystore.location = null  
    heartbeat.interval.ms = 3000  
    auto.commit.interval.ms = 10000  
    receive.buffer.bytes = 32768  
    ssl.cipher.suites = null  
    ssl.truststore.type = JKS  
    security.protocol = PLAINTEXT  
    ssl.truststore.location = null  
    ssl.keystore.password = null  
    ssl.keymanager.algorithm = SunX509  
    metrics.sample.window.ms = 30000  
    fetch.min.bytes = 1  
    send.buffer.bytes = 131072  
    auto.offset.reset = latest  

また、ログに次のように表示されます。

2016-07-11 09:31:53.515 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-10] o.s.k.l.KafkaMessageListenerContainer [AbstractMessageListenerContainer.java:224] partitions revoked:[]  
2016-07-11 09:31:53.515 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-11] o.s.k.l.KafkaMessageListenerContainer [AbstractMessageListenerContainer.java:224] partitions revoked:[]  
2016-07-11 09:31:53.516 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-3] o.s.k.l.KafkaMessageListenerContainer [AbstractMessageListenerContainer.java:224] partitions revoked:[]  
2016-07-11 09:31:53.516 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-12] o.s.k.l.KafkaMessageListenerContainer [AbstractMessageListenerContainer.java:224] partitions revoked:[]  
2016-07-11 09:31:53.578 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-8] o.a.k.c.c.i.AbstractCoordinator [AbstractCoordinator.java:529] Marking the coordinator 2147483639 dead.  
2016-07-11 09:31:53.578 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-3] o.a.k.c.c.i.AbstractCoordinator [AbstractCoordinator.java:529] Marking the coordinator 2147483639 dead.  
2016-07-11 09:31:53.578 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-10] o.a.k.c.c.i.AbstractCoordinator [AbstractCoordinator.java:529] Marking the coordinator 2147483639 dead.  
2016-07-11 09:31:53.578 INFO [org.springframework.kafka.KafkaListenerEndpointContainer#0-0-kafka-consumer-12] o.a.k.c.c.i.AbstractCoordinator [AbstractCoordinator.java:529] Marking the coordinator 2147483639 dead.  
4

1 に答える 1

2

上記の参照ドキュメントには、次のように記載されています。

シリアライザー/デシリアライザー API は、低レベルの Kafka コンシューマーおよびプロデューサーの観点からは非常にシンプルで柔軟ですが、KafkaTemplate および @KafkaListener が存在するメッセージング レベルでは十分ではありません。org.springframework.messaging.Message との間で簡単に変換するために、Spring for Apache Kafka は MessagingMessageConverter 実装とその StringJsonMessageConverter カスタマイズによる MessageConverter 抽象化を提供します。

しかし、あなたの場合、組み合わせるMessageConverter

        factory.setMessageConverter(new StringJsonMessageConverter());

カスタムでDeserializer:

        JsonDeserializer<Message> messageJsonDeserializer = new JsonDeserializer<>(Message.class);

あなたの場合の最も簡単な修正は、StringDeserializer代わりに使用する必要があります:

https://kafka.apache.org/090/javadoc/org/apache/kafka/common/serialization/StringDeserializer.html

上記のログ メッセージについてMarking the coordinator XXX dead.言えば、エラーはspring-kafkaプロジェクトとは関係ありませんが、問題は Kafka の構成にあることを意味します。私の場合、Kafka ノードが Zookeper に到達できないときに、この種の問題が発生しました。問題のトラブルシューティングを行うには、Kafka と Zookeper の両方をローカルにインストールし、 と を使用して、生産と消費が機能することを確認することをお勧めしkafka-console-producerますkafka-console-consumer

https://www.cloudera.com/documentation/kafka/latest/topics/kafka_command_line.html

次に、次の段階として、spring-kafka同じローカル インストールでサンプル アプリケーションを確認できます。

于 2016-07-11T04:50:11.800 に答える