Cloudera の Quickstart Docker コンテナーを使用して、単純な Hadoop/Hive ジョブをテストしようとしています。S3 のデータに対してジョブを実行できるようにしたいのですが、これまでのところ問題があります。
以下のプロパティを core-site.xml、hive-site.xml、hdfs-site.xml に追加しました。
<property>
<name>fs.s3.awsAccessKeyId</name>
<value>XXXXXX</value>
</property>
<property>
<name>fs.s3.awsSecretAccessKey</name>
<value>XXXXXX</value>
</property>
とにかく、Hive で S3 の場所を指す外部テーブルを作成しようとすると、次のエラーが発生します。
FAILED: SemanticException java.lang.IllegalArgumentException: AWS Access Key ID and Secret Access Key must be specified as the username or password (respectively) of a s3 URL, or by setting the fs.s3.awsAccessKeyId or fs.s3.awsSecretAccessKey properties (respectively).