0

4 台の物理マシンを調達して、スパーク テスト クラスターをセットアップすることができました。データは cassandra に保存され、計算は spark (SQL とデータ フレーム) で行われます。開発者としてインフラストラクチャの作業をできるだけ少なくしたいので、mesos を使用することを計画しています。

ただし、私が見つけたほとんどすべてのチュートリアルは、商用の dcos インフラストラクチャを使用したメソフィアのものです。marathon を使用するように dcos cli を構成することができましたが、メソフィア サポート担当者の 1 人が、うまく動作しない可能性があると私に言いました。

Cassandra をインストールできましたが、marathon でステータスが「異常」と表示されます。Spark はそこまで到達していません。Marathon は、デプロイ タスクが失敗していることを通知しますが、長いメッセージもエラー メッセージも何も表示されません。

メソを使うのは悪い考えですか?代替手段はありますか?Cassandra と Spark を実行する方法に関する他のリソースはありますか? 本を買うのは構わない。

更新: 4 台のマシンすべてで CentOS 7 を実行しています。これらのマシンには、20 ギガを超える RAM、12 CPU、および約 1 テラバイトのディスクが搭載されています。そのうちの 1 つはマスター ノード (zookeeper と mesos マスターを実行) としてセットアップされ、残りのマシンはスレーブ/クライアントです。

4

1 に答える 1

0

クラスターのインストール方法については、次のような優れた記事がいくつかあります。

残念ながら、使用している OS など、環境に関する詳細はあまり提供されていません。

個人的には、私は完全に Docker 化された方法で CoreOS クラスター上で Mesos を実行しています。つまり、Mesos マスターとスレーブもコンテナーで実行されます。興味のある方はご覧ください

systemdCoreOS で Mesos を実行するためのセットアップを確認します。

Spark に関しては、Mesos で実行する方法がいくつかあります。次の場所にある Spark ドキュメントを参照してください。

アイデアを得るために。さらに、 Spark-Jobserverを Docker コンテナーで実行できます。これは、Spark ジョブのクライアント アプリケーションとして機能します (REST API などを使用)。Dockerfile/イメージは以下で入手できます

Cassandra を Mesos のフレームワークとして実行するには、以下をご覧ください。

于 2015-10-23T07:55:21.303 に答える