問題タブ [load-balancing]

ソフトウェアまたはハードウェアのロード バランサーがどのように機能するかについては、まったくわかりません。ハードウェア ロード バランサーは基本的にスイッチであり、何らかのアルゴリズムに基づいて、着信要求に対してどのノードに切り替えるかを決定すると思います。ソフトウェア ロード バランサーのフロントでは、ソフトウェアがノードを選択し、リバース プロキシ接続を使用していると思います。このようなシナリオでは、ロード バランサーがクライアントの秘密鍵を持つことができないため、双方向 SSL は機能しません。

繰り返しますが、ソフトウェア ロード バランサーがどのように機能するかはわかりませんが、私のアプリケーションにはロード バランサーが必要であり、アプリケーションは双方向 SSL 接続を使用するため、ソフトウェア ロード バランサーが双方向 SSL をどのように処理するのか知りたいと思いました。繋がり。

私はプロジェクトを立ち上げていますが、主な質問の 1 つは、簡単なメッセージ キューイング システム (メッセンジャー チャット システムに沿ったもの) を実装する方法です。ポーリングを避けたいのですが、多くの同時接続 (数万) が発生する可能性が高くなります。これらは、ブラウザではなくアプリケーションから開始される HTTP+SSL 接続になります。

私が見つけた解決策の 1 つは、DNS 負荷分散です。これらの永続的な接続を多数の nginx Web サーバーに分散させます。

どう思いますか？他に考えられる解決策はありますか？

私たちの postgres サーバーは限界に近づいており、2 番目のデータベース サーバーの追加を検討しています。postgres セットアップに特に適したスケーリング ソリューションはありますか?

Windows 2008 Web Edition と SQL 2008 Standard Edition を実行している 2 台のサーバーがありますが、それらの負荷を分散する最善の方法は何ですか?

データベース ミラーリングまたはログ配布を使用する必要がありますか? 私はシステム管理者ではないので、開発者が Win2008 NLB を構成するのは簡単ですか?

私が求めているのは、1 つのサーバーに障害が発生した場合でもサイトを実行できるようにすることと、需要が増大した場合にサーバーを簡単に追加できることです。私のサイトは ASP.Net 3.5 で実行されており、すべてのサイトで既にセッションが SQL Server に保存されています。

OnSessionStart / Session_Start イベントは、サーバー ファーム環境でまだ 1 回 (合計) しか発生しないのでしょうか? それとも、要求が複数のサーバーによって処理されるため、サーバーごとに 1 回まで発生する可能性がありますか?

ASP.NET / IIS6 または 7

サーバーがスティッキー セッションを使用しているとは限りません。

過去に行ったように、コードで認識しなければならない問題があるため、負荷分散に移行するすべての人に役立つ情報を収集したいと思います。

1 つの Apache サーバーから squid にリバース プロキシ/ロードバランサーとして移行し、背後に 3 つの Apache サーバーを配置しました。

PHP/MySQL を使用しているため、問題が異なる場合があります。

解決しなければならなかったこと:

セッション

「デフォルト」の php セッション (ファイル) から分散 memcached-sessions に移行しました。簡単な解決策は、実行する必要があります。この方法では、ロードバランサーに「スティッキー セッション」も必要ありません。

キャッシング

ウェブサーバーごとの非分散 apc-cache に、分散オブジェクト キャッシュ用の別の memcached-layer を追加し、すべての古い/時代遅れのファイル キャッシュ システムをそれに置き換えました。

アップロード

アップロードは共有 (nfs) フォルダーに移動します。

速度のために最適化したもの:

静的ファイル

メインの NFS は lighttpd を実行し、(ユーザーがアップロードした) イメージを提供します。Squid はそれを認識しており、Apache ノードに画像を照会することはありません。これにより、パフォーマンスが大幅に向上しました。Squid は、これらのファイルを RAM にキャッシュするようにも構成されています。

コード/プロジェクトをロードバランシングに向けて準備するために何をしましたか?この移行について考えている人にとってのその他の懸念事項はありますか?また、使用しているプラ​​ットフォーム/言語は何ですか?

更新 2009-05-21

単一のネットワーク共有を使用する 2 番目の方法をテストしてきました。これにより、Windows Server 2003 の負荷がかかると、次のような問題が発生します。

http://support.microsoft.com/kb/810886

更新を終了する

次のように動作する ASP.NET Web サイトの提案を受け取りました。

ハードウェア ロード バランサー -> 4 つの IIS6 Web サーバー -> フェールオーバー クラスターを備えた SQL Server DB

これが問題です...

Web ファイル (aspx、html、css、画像) を保存する場所を選択しています。2 つのオプションが提案されています。

1) 4 つの IIS サーバーのそれぞれに Web ファイルの同一のコピーを作成します。

2) Web ファイルの 1 つのコピーを、4 つの Web サーバーからアクセスできるネットワーク共有に配置します。4 つの IIS サーバー上の Web ルートは、単一のネットワーク共有にマップされます。

より良い解決策はどれですか? オプション 2 は、ファイルを 1 つの場所にコピーするだけでよいため、明らかに展開が簡単です。ただし、4 つの Web サーバーがすべて 1 つのファイル セットにアクセスしているため、スケーラビリティの問題があるのではないかと思います。IIS はこれらのファイルをローカルにキャッシュしますか? すべてのクライアント要求でネットワーク共有にヒットしますか? また、ネットワーク共有へのアクセスは、ローカル ハード ドライブ上のファイルを取得するよりも常に遅くなりますか? IIS サーバーを追加すると、ネットワーク共有の負荷が大幅に悪化しますか?

概観を示すために、これは現在 1 か月あたり約 2,000 万ヒットを受け取る Web サイトの場合です。最近のピーク時には、1 秒あたり約 200 ヒットを受信して​​いました。

そのような設定で特別な経験があれば教えてください。入力していただきありがとうございます。

更新 2009-03-05

私の状況を明確にするために、このシステムの「展開」は、典型的な Web アプリケーションよりもはるかに頻繁です。Web サイトは、バック オフィス CMS のフロント エンドです。コンテンツが CMS で公開されるたびに、新しいページ (aspx、html など) がライブ サイトに自動的にプッシュされます。展開は基本的に「オンデマンド」です。理論的には、このプッシュは 1 分以内に数回発生する可能性があります。そのため、一度に 1 つの Web サーバーを展開することが実際的かどうかはわかりません。考え？

私のウェブサイトは成長しています。すべての機能を単一のサーバー コピーで実行するのではなく、機能セットを異なるサーバー グループに分割する必要があります。Windows ネットワーク負荷分散セットアップに 8 つの同一のサーバーがあります。

問題は、URL スペースを同じに保つ必要があることです。実行可能な解決策は何ですか？機能セットのために新しいドメインを開始したくありません。URL ベースの書き換え/ルーティング機能 (?!?) を備えたある種のリバース プロキシを考えています。ソフトウェアまたはハードウェアに関する推奨事項はありますか? これは、必要な機能を備えていないため、WNLB セットアップを置き換える予定です。