Hadoop MR1 と MR2 の両方を同じクラスターで (少なくとも理論的には) 一緒に実行することは可能ですか?
はいの場合、どうすればそれを行うことができますか?
Hadoop MR1 と MR2 の両方を同じクラスターで (少なくとも理論的には) 一緒に実行することは可能ですか?
はいの場合、どうすればそれを行うことができますか?
理論的には、次のようにできます。
ただし、これを行うことはお勧めしません。cloudera ブログを参照してください。
「同じノード セットで MRv1 と YARN を同時に実行しようとしていないことを確認してください。これはサポートされていません。パフォーマンスが低下し、クラスターの展開が不安定になる可能性があります。」
理論的には、そうです。
tarball を、異なるユーザーが所有する 2 つの異なる場所に解凍します。
両方で、すべての mapred/yarn 関連のポートを相互に排他的なセットに変更します。
いずれかの場所からのみデータノードを実行します。
両方の場所で mapred/yarn 関連のデーモンを開始します
機能する場合は、ここに投稿してください。
両方を実行する必要はありません。Hadoop 2.0 を実行するだけです。Hadoop 1.0 用に作成された MapReduce アプリケーションとの完全な下位互換性が提供されます。API には小さな変更がいくつかあります。リンクを見て、変更がアプリケーションに影響するかどうかを確認してください。
また、dfs name dir と data dir は、MR1 と MR2 で異なる必要があります。
<property>
<name>dfs.name.dir</name>
<value>/home/userx/hdfs/name</value>
</property>
<property>
<name>dfs.data.dir</name>
<value>/home/userx/hdfs/data</value>
</property>