1

私は、単純な画像ビーコンを介して収集したインストルメンテーション データに基づいて、Web プロパティの分析を提供することに取り組んでいます。私たちのデータ パイプラインは Flume から始まります。クエリ文字列パラメーターを解析し、単純なテキスト メッセージを作成して Flume にプッシュする最速の方法が必要です。

パフォーマンス上の理由から、nginx に傾倒しています。メモリからの静止画像の提供は既にサポートされているため、私のタスクは、クエリ文字列を処理してメッセージを Flume に転送するだけです。したがって、質問:

nginx と Flume を統合する最も簡単で信頼できる方法は何ですか? syslog の使用を考えています (Flume は syslog リスナーをサポートしています) が、リモート サーバーとカスタム ポートで実行されている syslog (または単に TCP) リスナーにカスタム ログ メッセージを転送するように nginx を構成する方法に苦労しています。nginx 用の既存のサードパーティ モジュールで可能ですか、それとも自分で作成する必要がありますか?

それとは別に、高速な $args パーサーを作成するために推奨できる既存のものはすべて高く評価されます。

私が完全に間違った道を進んでおり、パフォーマンスに関してより良いものを推奨できると思われる場合は、お気軽にお知らせください。

前もって感謝します!

4

1 に答える 1

3

nginx のログ ファイルを解析tail -fしてから、結果を Flume に渡す必要があります。これが最も簡単で信頼できる方法です。syslog の問題は、それが nginx をブロックし、高負荷または何か問題が発生した場合に完全にスタックする可能性があることです (これが nginx がサポートしていない理由です)。

于 2012-11-17T13:59:34.920 に答える