0

私は最近、NoSql とビッグデータについて勉強し始め、それらに取り組み続けることにしました。数日後、Hadoop と Hbase を win2008 R2 64 ビット マシンにインストールして構成しようとしています。しかし、残念ながら私は成功していません。インストールの各段階でさまざまなエラーが発生しています。この点に関して、以下のチュートリアルに従っています。

Hadoop の場合 = http://blog.sqltrainer.com/2012/01/installing-and-configuring-apache.html Hbase の場合 = http://ics.upjs.sk/~novotnyr/blog/334/setting-up- hbase-on-windows

まず、/usr/local/hadoop ディレクトリで jps コマンドを実行すると、そこに datanode が表示されません。これらの値はそこにあるだけです。

$ jps
3984 NameNode
6864 Jps
5972 JobTracker

ただし、このアドレス 127.0.0.1:50070 に移動すると、正常に実行されます。しかし、テスト wordcount example ジョブを実行しようとすると、以下の位置で長時間スタックし、cygwin ターミナルを再起動する必要があります。

11/06/13 13:43:01 INFO mapred.JobClient: 実行中のジョブ: job_201005081732_0001 11/06/13 13:43:02 INFO mapred.JobClient: マップ 0% 削減 0%

さらに、それを無視して、Hadoop の上に Hbase をインストールして構成するように移動しました。インストールはうまくいきましたが、hbase シェルでさまざまなコマンドを実行すると、さまざまなエラーが発生します。たとえば、「list」コマンドを実行すると、エラーが発生します。 :
org.apache.hadoop.hbase.MasterNotRunningException: Retried 7 times Scan 'test' コマンドを実行すると、エラーが発生します:
org.apache.hadoop.hbase.client.NoServerForRegionException: Unable to find region for test,,99999999999999 after 7試みます。

何をすべきか本当にわかりません。数日間検索してきましたが、エラーの正確な解決策を見つけることができませんでした。

Hadoop と Hbase を正常に構成するには、専門家の皆さんの助けが必要です。

これが私のDataNodeログです：

2013-06-11 14:21:16,703 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Receiving block blk_3811235227329042813_1246 src: /127.0.0.1:51511 dest: /127.0.0.1:50010
2013-06-11 14:21:16,721 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:51511, dest: /127.0.0.1:50010, bytes: 142452, op: HDFS_WRITE, cliID: DFSClient_1741700406, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_3811235227329042813_1246, duration: 8188439
2013-06-11 14:21:16,721 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: PacketResponder 0 for block blk_3811235227329042813_1246 terminating
2013-06-11 14:21:17,024 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Receiving block blk_-7864325777801075696_1247 src: /127.0.0.1:51512 dest: /127.0.0.1:50010
2013-06-11 14:21:17,034 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:51512, dest: /127.0.0.1:50010, bytes: 368, op: HDFS_WRITE, cliID: DFSClient_1741700406, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_-7864325777801075696_1247, duration: 1775491
2013-06-11 14:21:17,035 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: PacketResponder 0 for block blk_-7864325777801075696_1247 terminating
2013-06-11 14:21:17,135 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Receiving block blk_8363548489446884759_1248 src: /127.0.0.1:51513 dest: /127.0.0.1:50010
2013-06-11 14:21:17,145 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:51513, dest: /127.0.0.1:50010, bytes: 77, op: HDFS_WRITE, cliID: DFSClient_1741700406, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_8363548489446884759_1248, duration: 1461072
2013-06-11 14:21:17,146 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: PacketResponder 0 for block blk_8363548489446884759_1248 terminating
2013-06-11 14:21:17,481 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Receiving block blk_2254833662532666780_1249 src: /127.0.0.1:51514 dest: /127.0.0.1:50010
2013-06-11 14:21:17,493 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:51514, dest: /127.0.0.1:50010, bytes: 20596, op: HDFS_WRITE, cliID: DFSClient_1741700406, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_2254833662532666780_1249, duration: 2206535
2013-06-11 14:21:17,494 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: PacketResponder 0 for block blk_2254833662532666780_1249 terminating
2013-06-11 14:21:17,861 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:50010, dest: /127.0.0.1:51516, bytes: 20760, op: HDFS_READ, cliID: DFSClient_-1869746926, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_2254833662532666780_1249, duration: 3906454
2013-06-11 14:21:18,234 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Receiving block blk_-2949992568769351385_1250 src: /127.0.0.1:51518 dest: /127.0.0.1:50010
2013-06-11 14:21:18,244 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:51518, dest: /127.0.0.1:50010, bytes: 106, op: HDFS_WRITE, cliID: DFSClient_-163790033, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_-2949992568769351385_1250, duration: 1404625
2013-06-11 14:21:18,245 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: PacketResponder 0 for block blk_-2949992568769351385_1250 terminating
2013-06-11 14:21:18,290 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: /127.0.0.1:50010, dest: /127.0.0.1:51519, bytes: 81, op: HDFS_READ, cliID: DFSClient_-1869746926, offset: 0, srvID: DS-2012389790-192.168.168.63-50010-1370448134624, blockid: blk_8363548489446884759_1248, duration: 694149
2013-06-11 14:22:00,557 INFO org.apache.hadoop.hdfs.server.datanode.DataBlockScanner: Verification succeeded for blk_3811235227329042813_1246

TaskTrakers Log:

2013-06-11 12:33:27,223 INFO org.apache.hadoop.mapred.TaskTracker: STARTUP_MSG: 
/************************************************************
STARTUP_MSG: Starting TaskTracker
STARTUP_MSG:   host = WIN-UHHLG0L1912/192.168.168.63
STARTUP_MSG:   args = []
STARTUP_MSG:   version = 1.0.4
STARTUP_MSG:   build = https://svn.apache.org/repos/asf/hadoop/common/branches/branch-1.0 -r 1393290; compiled by 'hortonfo' on Wed Oct  3 05:13:58 UTC 2012
************************************************************/
2013-06-11 12:33:27,676 INFO org.apache.hadoop.metrics2.impl.MetricsConfig: loaded properties from hadoop-metrics2.properties
2013-06-11 12:33:27,812 INFO org.apache.hadoop.metrics2.impl.MetricsSourceAdapter: MBean for source MetricsSystem,sub=Stats registered.
2013-06-11 12:33:27,815 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Scheduled snapshot period at 10 second(s).
2013-06-11 12:33:27,815 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: TaskTracker metrics system started
2013-06-11 12:33:28,402 INFO org.apache.hadoop.metrics2.impl.MetricsSourceAdapter: MBean for source ugi registered.
2013-06-11 12:33:28,411 WARN org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Source name ugi already exists!
2013-06-11 12:33:28,697 INFO org.mortbay.log: Logging to org.slf4j.impl.Log4jLoggerAdapter(org.mortbay.log) via org.mortbay.log.Slf4jLog
2013-06-11 12:33:28,852 INFO org.apache.hadoop.http.HttpServer: Added global filtersafety (class=org.apache.hadoop.http.HttpServer$QuotingInputFilter)
2013-06-11 12:33:28,954 INFO org.apache.hadoop.mapred.TaskLogsTruncater: Initializing logs' truncater with mapRetainSize=-1 and reduceRetainSize=-1
2013-06-11 12:33:28,963 INFO org.apache.hadoop.mapred.TaskTracker: Starting tasktracker with owner as cyg_server
2013-06-11 12:33:28,965 INFO org.apache.hadoop.mapred.TaskTracker: Good mapred local directories are: /tmp/hadoop-cyg_server/mapred/local
2013-06-11 12:33:28,982 WARN org.apache.hadoop.util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
2013-06-11 12:33:28,984 ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.io.IOException: Failed to set permissions of path: \tmp\hadoop-cyg_server\mapred\local\taskTracker to 0755
    at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:689)
    at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:670)
    at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
    at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
    at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
    at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:723)
    at org.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:1459)
    at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:3742)

2013-06-11 12:33:28,986 INFO org.apache.hadoop.mapred.TaskTracker: SHUTDOWN_MSG: 
/************************************************************
SHUTDOWN_MSG: Shutting down TaskTracker at WIN-UHHLG0L1912/192.168.168.63
************************************************************/

core-site.xml には

<property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
 </property>

私が持っているHdfs-site.xmlで

<property>
    <name>dfs.replication</name>
    <value>2</value>
  </property>

  <property>
    <name>dfs.name.dir</name>
    <value>/home/hadoop/workspace/name_dir</value>
  </property>

  <property>
    <name>dfs.data.dir</name>
    <value>/home/hadoop/workspace/data_dir</value>
  </property>

そしてMapred-site.xmlには私が持っています

  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>

前もって感謝します、

よろしく

サルマン

4

1 に答える 1

0

ディレクトリを作成し、このディレクトリを値としてファイル/home/hadoop/workspace/temp_dirにプロパティを追加します。次に、とのパーミッションを 755 に変更し、Hadoop を再起動します。hadoop.tmp.dircore-site.xml/home/hadoop/workspace/data_dir/home/hadoop/workspace/temp_dir

于 2013-06-12T14:12:07.820 に答える