1

aws の Kafka(MSK) を aws の Elasticsearch に接続しようとしています。セットアップしましたが、現在エラーが発生しています。手順は次のとおりです。

sudo apt-get update  
sudo apt-install java-1.8.0  
wget https://packages.confluent.io/archive/5.2/confluent-5.2.0-2.11.tar.gz?_ga=2.30447679.1453070970.1611201478-474568264.1611201478 
tar -xf confluent-5.2.0-2.11.tar.gz 
confluent-hub install confluentinc/kafka-connect-elasticsearch:11.0.0
export PATH=/home/ubuntu/confluent-5.2.0/bin:${PATH};

次に、connect-standalone.properties 構成ファイルを更新しました。

bootstrap.servers=b-1.xx.xx.c8.kafka.us-east-1.amazonaws.com:9092
        
key.converter=org.apache.kafka.connect.json.JsonConverter
value.converter=org.apache.kafka.connect.json.JsonConverter
        
key.converter.schemas.enable=false
value.converter.schemas.enable=false
        
offset.storage.file.filename=/tmp/connect.offsets
        
plugin.path=share/java,/home/ubuntu/confluent-5.2.0/share/confluent-hub-components

次に、シンク コネクタ用の別の構成ファイルを作成しました。

name=elasticsearch-sink
connector.class=io.confluent.connect.elasticsearch.ElasticsearchSinkConnector
tasks.max=1
topics=sampleTopic
topic.index.map=logs:logs_index
connection.url=https://xxxx.us-east-1.es.amazonaws.com:443
type.name=log
key.ignore=true
schema.ignore=true

次に、confluent スタンドアロン コマンドを実行して接続します。

bin/connect-standalone etc/kafka/connect-standalone.properties etc/kafka/elasticsearch-connect.properties 

実行されますが、最終的には理由がわからないエラーがスローされます。以下はエラーです:

ERROR Stopping after connector error (org.apache.kafka.connect.cli.ConnectStandalone:119)
java.lang.NoClassDefFoundError: org/apache/kafka/common/config/ConfigDef$CaseInsensitiveValidString

どんな助けや意見もありがとう。

4

0 に答える 0