複数のノード (自動スケーリング グループ) を持つ Web サーバー スタックがあり、各 Web サーバーは Fluentd を使用してログ ファイルを S3 バケットに保存する中央コレクターに転送するように構成されています。
新しいコレクタをテストしており、古いコレクタと新しいコレクタの両方にアクセス ログのコピーを送信するように Web サーバーを構成しましたが、集約されたファイルに大きな違いがあります。
古いコレクタは 2 倍のログ データを保存しています。新しいコレクターに向かう途中でデータが失われていない限り、問題が何であるかを一生把握することはできません (そして、これをどのようにテストするのが最善でしょうか?)。
Web サーバー td-agent.conf
<source>
type tail
path /var/log/some/access.log
tag some-access.log
format tsv
keys time,userId,position,userAgent,platform
pos_file /tmp/fluent.some-access.log.pos
rotate_wait
</source>
<match some-access.log>
type copy
<store>
type forward
<server>
host log-collector-1.lan
port 24224
</server>
</store>
<store>
type forward
<server>
host log-collector-2.lan
port 24224
</server>
</store>
</match>
ログコレクターの構成はまったく同じです...そのため、そこを見る必要はありません。