hbase-spark コネクタを試していました。まず、このコードを試しています。
私のpomの依存関係は次のとおりです。
<dependencies>
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-core_2.11</artifactId>
<version>2.0.0</version>
</dependency>
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-sql_2.11</artifactId>
<version>2.0.0</version>
</dependency>
<dependency>
<groupId>org.apache.hbase</groupId>
<artifactId>hbase-spark</artifactId>
<version>2.0.0-alpha4</version>
</dependency>
</dependencies>
コードの実行中に次の例外が発生します。
スレッド「メイン」の例外 java.lang.NoClassDefFoundError: java.lang.ClassLoader.defineClass1(Native Method) の org/apache/spark/Logging at java.lang.ClassLoader.defineClass(ClassLoader.java:760) at java.security .SecureClassLoader.defineClass(SecureClassLoader.java:142) で java.net.URLClassLoader.defineClass(URLClassLoader.java:467) で java.net.URLClassLoader.access$100(URLClassLoader.java:73) で java.net.URLClassLoader$1。 run(URLClassLoader.java:368) at java.net.URLClassLoader$1.run(URLClassLoader.java:362) at java.security.AccessController.doPrivileged(Native Method) at java.net.URLClassLoader.findClass(URLClassLoader.java:361) ) で java.lang.ClassLoader.loadClass(ClassLoader.java:424) で sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331) at java.lang.ClassLoader.loadClass(ClassLoader.java:357) at org.apache.hadoop.hbase.spark.JavaHBaseContext.(JavaHBaseContext.scala:46) at com. myproj.poc.sparkhbaseneo4j.App.main(App.java:71) 原因: java.lang.ClassNotFoundException: org.apache.spark.Logging at java.net.URLClassLoader.findClass(URLClassLoader.java:381) at java. lang.ClassLoader.loadClass(ClassLoader.java:424) at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331) at java.lang.ClassLoader.loadClass(ClassLoader.java:357) ... 14 詳細scala:46) com.myproj.poc.sparkhbaseneo4j.App.main(App.java:71) の原因: java.lang.ClassNotFoundException: org.apache.spark.Logging at java.net.URLClassLoader.findClass(URLClassLoader. java:381) で java.lang.ClassLoader.loadClass(ClassLoader.java:424) で sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331) で java.lang.ClassLoader.loadClass(ClassLoader.java:357) で) ... 14 以上scala:46) com.myproj.poc.sparkhbaseneo4j.App.main(App.java:71) の原因: java.lang.ClassNotFoundException: org.apache.spark.Logging at java.net.URLClassLoader.findClass(URLClassLoader. java:381) で java.lang.ClassLoader.loadClass(ClassLoader.java:424) で sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331) で java.lang.ClassLoader.loadClass(ClassLoader.java:357) で) ... 14 以上331) at java.lang.ClassLoader.loadClass(ClassLoader.java:357) ... 14 詳細331) at java.lang.ClassLoader.loadClass(ClassLoader.java:357) ... 14 詳細
com.myproj.poc.sparkhbaseneo4j.App.main(App.java:71)
githubコードの67行目です。
このスレッドをチェックしました。すべてのライブラリの同じバージョンを含める必要があると書かれています。以前は、pom に 2.3.0 バージョンの spark ライブラリがありました。hbase-spark
しかし、最新バージョンがあることに気付きました2.0.0
。そこで、すべての Spark ライブラリのバージョンを にダウングレードしました2.0.0
。しかし、私はまだ同じ例外を受けています。
または、これ1.X.X
を使用するためだけにバージョンに固執する必要がありますか?