2

私の豚のスクリプトは、5 つの MR ジョブを生成します。実行を開始すると、pig は次のように出力します。

 BytesPerReducer=1000000000 maxReducers=999

単一のレデューサーのみで MR ジョブを作成し続けます。

 Neither PARALLEL nor default parallelism is set for this job. Setting number of reducers to 1

しかし、同じスクリプトから生成された後のジョブでは、この行は出力されず、そのうちの 1 つでmapred.reduce.tasksレデューサーが作成されます。私のクラスターの場合は 4992 です。

これは既知のバグですか? それとも、ここで何か不足していますか?

4

1 に答える 1

0

これを豚のスクリプトで使用します。

SET pig.exec.reducers.max 4000

詳細については、これをお読みください。

于 2015-10-23T21:44:44.003 に答える