このライブラリを含む Hadoop 用のコンパイル済み jar があります。
com.google.guava:guava:jar:15.0:compile
Hadoop CDH5.0.1 クラスターに送信すると、次のエラーが発生します。
java.lang.NoSuchMethodError: com.google.common.base.Stopwatch.createStarted()Lcom/google/common/base/Stopwatch;
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:72)
at org.apache.hadoop.util.ProgramDriver.run(ProgramDriver.java:144)
at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:152)
at com.trovit.pipeline.AdsPipelineDriver.main(AdsPipelineDriver.java:17)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.RunJar.main(RunJar.java:212)
主なことは、Hadoop のクラスパスに古いバージョンの guava があり、私の前にそれをロードし、使用された関数が存在しないためにクラッシュすることです。
mapreduce.task.classpath.user.precedence 、 mapreduce.task.classpath.first 、mapreduce.job.user.classpath.firstなどの構成パラメーターを試しましたが、どれも機能しませんでした。
この問題を解決するための推測はありますか?