1

jdbc入力のプラグイン内にMySQLステートメントをそのまま持っていますlogstash。

statement => "SELECT * from TEST where id > :sql_last_value"

date私のテーブルには、またはdatetimeフィールド自体がありません。schedulerそのため、新しい行がテーブルに追加されたかどうかを使用して分単位でチェックすることにより、インデックスを更新しようとしています。

既存の値の変更を既存のレコードから更新するのではなく、新しいレコードのみを更新できるようにする必要があります。これを行うには、次のようなlogstash入力があります。

input {
    jdbc {
        jdbc_connection_string => "jdbc:mysql://myhostmachine:3306/mydb" 
        jdbc_user => "root"
        jdbc_password => "root"
        jdbc_validate_connection => true
        jdbc_driver_library => "/mypath/mysql-connector-java-5.1.39-bin.jar"
        jdbc_driver_class => "com.mysql.jdbc.Driver"
        jdbc_paging_enabled => "true"
        jdbc_page_size => "50000"
        schedule => "* * * * *"
        statement => "SELECT * from mytable where id > :sql_last_value"
        use_column_value => true
        tracking_column => id
        last_run_metadata_path => "/path/.logstash_jdbc_last_run"
        clean_run => true
    }
}

そのため、ドキュメントをアップロードするためにインデックスを作成してこのlogstashファイルを実行すると、ドキュメントはまったくアップロードされません。ドキュメント数はゼロとして表示されます。conf ファイル.logstash_jdbc_last_runを実行する前に、必ず削除しました。logstash

logstash コンソール出力の一部:

[2016-11-02T16:33:00,294][INFO][logstash.inputs.jdbc] (0.002000s) SELECT count(*) AS countFROM (SELECT * from TEST where id > '2016-11-02 11:02: 00') AS t1LIMIT 1

これは分単位でチェックし続けますが、これは正しいのですが、記録が取得されません。それはどのように機能しますか？

何か不足していますか？どんな助けでも大歓迎です。

4

1 に答える 1

5

次のように、logstash 構成を変更する必要があります。

jdbc { 
  jdbc_connection_string => "jdbc:mysql://myhostmachine:3306/mydb" 
  jdbc_user => "root" 
  jdbc_password => "root" 
  jdbc_validate_connection => true 
  jdbc_driver_library => "/mypath/mysql-connector-java-5.1.39-bin.jar" 
  jdbc_driver_class => "com.mysql.jdbc.Driver" 
  jdbc_paging_enabled => "true" 
  jdbc_page_size => "50000" 
  schedule => "* * * * *" 
  statement => "SELECT * from TEST where id > :sql_last_value" 
  use_column_value => true 
  tracking_column => "id" 
  tracking_column_type => "numeric" 
  clean_run => true 
  last_run_metadata_path => "/mypath/.logstash_jdbc_last_run" 
}

あなたの場合、最後の 5 つの設定が重要です。.logstash_jdbc_last_runまた、削除してもファイルを必ず削除してくださいclean_run => true。

于 2016-11-02T16:41:40.177 に答える