0

lzo アルゴリズムで圧縮された寄木細工のファイルを読みたいと思います。spark-shell (spark クラスターで ec2 ベース、ec2-script でビルド) を実行し、次のコードを入れたとします。

val hadoopConf = sc.hadoopConfiguration
hadoopConf.set("fs.s3.impl", "org.apache.hadoop.fs.s3native.NativeS3FileSystem")
hadoopConf.set("fs.s3.awsAccessKeyId", "myaccesskey")
hadoopConf.set("fs.s3.awsSecretAccessKey", "mysecretaccesskey")

val parquetFile = spark.read.parquet("s3://path/to/my/parquet/lzo/file")
parquetFile.first()

私はこの例外を受け取ります:

Caused by: java.lang.ClassNotFoundException: Class com.hadoop.compression.lzo.LzoCodec not found.

このガイドにも従いましたが、エラーは同じままです。提案?

4

0 に答える 0