0

あるサーバーから別のサーバーにペイロードを移動する必要があるユースケースがあります。両方のサーバーは同じデータ センター内に配置されます(同じ Amazon のアベイラビリティ ゾーン内であっても)。

HTTP/HTTPS を介して呼び出されるたびにファイル転送をトリガーする必要があるサービス/エンドポイントがあります。現在、15 秒以上かかることもあるため、転送を高速化する必要があります。非同期にする(たとえば、Celeryのようなタスクキューで処理する)ことは、必ずしも私の問題を解決するとは限りません(転送はまだ迅速に実行する必要があります-それをトリガーしたリクエスト中か、それ以外かは関係ありません)。

ファイルのサイズは通常 100KB ~ 500KB で、次のオプションがあります。

  • SSH転送、
  • ファイルシステム間の他の安全な転送 (SSHFS? rsync、SSH 経由?)、
  • ファイルを本文とする HTTP/HTTPS リクエスト、
  • 他の何か?

ファイルは常に新しいものです(そのため、以前のバージョンと新しいバージョンの間の差分を送信することはできません)。これらはテキスト ファイルであるため、圧縮すると転送速度が向上する可能性があります。

それを行うための最速の方法(サーバー間でファイルをすばやく安全に転送する方法)について考えている人はいますか? サーバーは個別のインスタンスであり、おそらくこのままです。セキュリティも重要な役割を果たします。しかし、これらの制限の外では、サーバーに何かをインストールしたり、ディレクトリをマウントしたりできます。

4

1 に答える 1

-1

さて、私が念頭に置いていた答えは次のとおりです

  • 最初のサーバーは、送信する必要があるすべての新しいメッセージを圧縮します (gzip など)。
  • 圧縮ファイルは 2 つのサーバー間で移動されます (SCP は 1 つのファイルしかないため問題ありません)。
  • 2 番目のサーバーは、メッセージ フォルダー内のファイルを解凍します。

ファイル数ではなくファイルサイズを増やすために最初に圧縮することを考えました。このようにして、2つのサーバー間の通信時間を短縮し、処理時間を犠牲にします。これは、それらすべてを再帰的に移動する時間よりも短いはずです。ファイル。

于 2013-11-18T12:26:05.763 に答える