pyspark - qubole の pyspark ジョブが「例外読み取りマッパー出力を再試行しています」で失敗する

Question

次のエラーで失敗する qubole を介して実行されている pyspark ジョブがあります。

Qubole > Shell Command failed, exit code unknown
Qubole > 2016-12-03 17:36:53,097 ERROR shellcli.py:231 - run - Retrying exception reading mapper output: (22, 'The requested URL returned error: 404 Not Found')

Qubole > 2016-12-03 17:36:53,358 ERROR shellcli.py:262 - run - Retrying exception reading mapper logs: (22, 'The requested URL returned error: 404 Not Found')

ジョブは次の構成で実行されます。

--num-executors 38 --executor-cores 2 --executor-memory 12288M --driver-memory 4000M --conf spark.storage.memoryFraction=0.3 --conf spark.yarn.executor.memoryOverhead=1024

クラスタには 30 のスレーブ カウントが含まれます。m2.2xlarge、4 コアのマスター ノードとスレーブ ノード。

問題の根本原因に関する洞察は役に立ちます。