問題タブ [namenode]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
hadoop - Hadoop: セカンダリ NameNode 権限が拒否されました
システムの仕組みを学ぶために、Hadoop を疑似分散モードで実行しようとしています。インストールするために、Hadoop-3.0.0 をサイトからダウンロードし、展開しました。次のように構成を行いました(簡潔にするために構成タグを省略しています):
core-site.xml
hdsf-site.xml
mapred-site.xml
ヤーンサイト.xml
これを行った後、使用してhdfsをフォーマットしました
また、次を使用してパスワードなしの ssh をセットアップしました。
(また、構成ファイルを使用して id_rsa2.pub を localhost のデフォルトとして追加しました。これは、既に id_rsa.pub を他の何かに使用しており、何かを壊した場合に備えて組み合わせたくないためです)
localhost に ssh できます。すべてがよく見えます。
次に、start-dfs.sh を実行すると、次のエラーが表示されます。
jps を実行すると (yarn と mapreduce 履歴サーバーを起動した後)、次のようになります。
注目すべきことに、SecondaryNameNode が欠落しています。私の推測では、上記のエラーが原因です。
次に、hadoop の fs コマンドを使用してみると、フォルダーを作成して検索することができます。しかし、データをコピーしようとすると、NameNode が SAFEmode であるという通知を受け取ります。次を使用して保存モードをオフにすると:
すぐにオンに戻ります。localhost の namenode ポートに移動すると、次のメッセージが表示されます。
しかし、私にはたくさんのリソースがあります。単一のデータノードは割り当てられたスペースの 8% 未満を使用しており、ネームノードはほぼ 100GB のスペースを使用しています。datanode と namenode はどちらも正常であると報告しています。したがって、問題はセカンダリネームノードの欠如だと思います。それを念頭に置いて、SecondaryNameNode に PrimaryNameNode とは異なる権限の問題が発生する原因を知っている人はいますか? 代わりに、ローカル マシンのどこかに sNN を配置しようとしているようですが、チェックインすると/tmp/hadoop*
、すべてのファイル アクセス許可が正常であるように見えます。
助けてくれてありがとう。
hadoop - HDFS 有効な画像ファイルが見つかりません
古い Hadoop クラスター マシン hadoop - バージョン 2.6 があります。
クラスタ内のすべてのマシンは redhat バージョン - 7.3 です
最後のマスターマシンでスタンバイネームノードを開始する際に問題があります
ログ ( /var/log/hadoop/hdf の下) から、エラーを確認できます -有効なイメージ ファイルが見つかりません
私の解決策についてはよくわかりませんが、/hadoop/hdfs/journal/hdfsha/current の下のファイル ( edits_inprogress_XXXXX )を削除してから、スタンバイの名前ノード サービスを再起動する必要があるということですか?
また、hadoop namenode -formatを試します
しかし、次のように戻ります:
すべての出力:
hadoop - Hadoop 単一クラスタ ノードで namenode のフォーマット中にエラーが発生しました
https://data-flair.training/blogs/installation-of-hadoop-3-x-on-ubuntu/のガイドラインに従って、Ubuntu 16.04 システムに Hadoop をインストールして構成しようとしています。
すべてのステップが正常に実行されましたが、コマンドを実行しようとするとhdfs namenode -format
メッセージが表示されます