.net分散マップ/reduceフレームワークを探しています。これをリアルタイムのデータクエリに使用し、複数のノードでクエリを並列処理する予定です。現在、Web層とアプリ層の間の通信にWCFを使用しています。
たとえば、メモリデータに5つのノードがあるとします。5つのノードにフィルターを渡すと。フィルタはノードが持つデータのチャンクに対して実行され、結果は最終的な答えに還元されます。
ジョブをマップして結果を元に戻すことができるフレームワークがすでにあるかどうか疑問に思っています。私は嵐のニンバスのように見えました(Twitterのリアルタイムマップ/リデュース)。多くの合併症のためにニンバスを使用することはできません。また、Zookeeperのオーバーヘッドが多すぎます。
フレームワークを使用して次のことを達成しようとしています1)ジョブ(主に使用可能なすべてのノードに送信されるリクエスト)を使用可能なノードにマップし、結果を減らします。2)フェイルオーバー時に、ジョブを新しいノードにマップします。3)クラスターを管理します。(ノードがダウンしている場合は、使用可能なサーバーのリストからノードを削除します)
データはメモリ内にあるので、分散ファイルシステムは必要ありません。WCFを下に通信する.NETが理想的ですが、他のフレームワーク(任意の言語)がある場合はお知らせください。
任意のヘルプ(フレームワーク、コードプロジェクト、研究論文、実際のコード:))をいただければ幸いです。