2

.net分散マップ/reduceフレームワークを探しています。これをリアルタイムのデータクエリに使用し、複数のノードでクエリを並列処理する予定です。現在、Web層とアプリ層の間の通信にWCFを使用しています。

たとえば、メモリデータに5つのノードがあるとします。5つのノードにフィルターを渡すと。フィルタはノードが持つデータのチャンクに対して実行され、結果は最終的な答えに還元されます。

ジョブをマップして結果を元に戻すことができるフレームワークがすでにあるかどうか疑問に思っています。私は嵐のニンバスのように見えました(Twitterのリアルタイムマップ/リデュース)。多くの合併症のためにニンバスを使用することはできません。また、Zookeeperのオーバーヘッドが多すぎます。

フレームワークを使用して次のことを達成しようとしています1)ジョブ(主に使用可能なすべてのノードに送信されるリクエスト)を使用可能なノードにマップし、結果を減らします。2)フェイルオーバー時に、ジョブを新しいノードにマップします。3)クラスターを管理します。(ノードがダウンしている場合は、使用可能なサーバーのリストからノードを削除します)

データはメモリ内にあるので、分散ファイルシステムは必要ありません。WCFを下に通信する.NETが理想的ですが、他のフレームワーク(任意の言語)がある場合はお知らせください。

任意のヘルプ(フレームワーク、コードプロジェクト、研究論文、実際のコード:))をいただければ幸いです。

4

1 に答える 1

0

これらは管理コンポーネントであるため、nimbus/zookeeperに関するコメントの意味がわかりません。

Stormはユースケースに適しているように聞こえますが、Hazelcastのような他のケースにも適しています。どのソリューションが適切かを確認するには、ニーズに関する詳細情報が必要です。

重要な質問の1つは、リアルタイムで何を意味するかということだと思います。短い応答時間が必要で、大量のデータを処理する必要がある場合は、Hazelcastの方が適している可能性があります。解析/処理してユーザーがすぐに利用できるようにする必要がある非構造化データが入ってくる場合は、Stormの方が適している可能性があります。

于 2013-02-23T21:46:14.870 に答える