問題タブ [metastore]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
mysql - SSLパラメータが必要なため、MySql 5.7をハイブメタストアとして使用するにはどうすればよいですか?
MySQL 5.7 を Hive メタストアとして使用しています。いつものように、私の接続文字列は次のとおりです
しかし、次のエラーが発生しています。
org.apache.thrift.transport.TTransportException: アドレス 0.0.0.0/0.0.0.0:9083 で ServerSocket を作成できませんでした。
. mysql接続文字列でSSLパラメータを渡す方法を教えてもらえますか?? または私がそれを解決できる他の方法はありますか?
database - PySpark: エラー SparkContext: SparkContext の初期化中にエラーが発生しました。java.nio.file.AccessDeniedException:
( Spark の初心者) POC を実行するために Linux マシンにスタンドアロンで Spark をインストールしました。すべてが正常に見え、コードは正常に機能していましたが、以下の断続的なエラーが発生し始めました。
コードの移動、コードの名前の変更、コードの単純化にうんざりしましたが、どれもうまくいきませんでした。しばらくすると、エラーは自然に止まりました。いいえ、どこにも行きません。
私のsparkバージョンはspark-2.2.0です。そのエラーが発生すると、pysparkと入力したときに、非常に長いエラートレースで開始できなかったという奇妙なこと(最後の部分の下):
助けていただければ幸いです
mysql - HDFS ではなく S3 ストレージに構成した後、Hive 1.2 メタストア サービスが開始されない
スタンドアロン モードで Apache Spark Cluster(2.2.0) を使用しています。これまで、寄木細工のファイルを保存するために HDFS を使用して実行していました。Apache Hive 1.2 の Hive Metastore Service を使用してアクセスし、Thriftserver、Spark over JDBC を使用しています。
HDFS の代わりに S3 Object Storage を使用したいと考えています。次の構成を hive-site.xml に追加しました。
MySQL 5.7 データベースにハイブ メタストアがあります。Hive lib フォルダーに次の jar ファイルを追加しました。
- aws-java-sdk-1.7.4.jar
- hadoop-aws-2.7.3.jar
MySQL の古い Hive メタストア スキーマを削除してから、次のコマンドでメタストア サービスを開始するとhive --service metastore &
、次のエラーが発生します。
欠落しているクラスは Jackson ライブラリに属しており、spark-2.2.0-bin-hadoop2.7/jars/ フォルダーにある Jackson-*.jar をコピーしました。
- jackson-annotations-2.6.5.jar
- jackson-core-2.6.5.jar
- jackson-core-asl-1.9.13.jar
- jackson-databind-2.6.5.jar
- ジャクソン-jaxrs-1.9.13.jar
- ジャクソン-マッパー-asl-1.9.13.jar
- jackson-module-paranamer-2.6.5.jar
- jackson-module-scala_2.11-2.6.5.jar
- jackson-xc-1.9.13.jar
しかし、その後、次のエラーが発生しました。
ここでのエラーは、jar バージョンの非互換性と関係があると思いますが、正しいバージョンを見つけることができません。
誰かがここで私を助けることができますか?