構成ファイルの file_mounts ブロックを使用して、AWS EC2 の Ray クラスターの各ノードに少数のファイルを配布しようとしています:-
file_mounts: { "./": "./run_files" }
クラスタは、run_files ディレクトリの内容が正しくコピーされたマスター ノードのみで起動します。ただし、要求された 2 つのワーカー ノードは起動しません。file_mounts セクションを省略すると、ワーカーが起動します。Ray モニターは、Anaconda3 インストールの matplotlib サブディレクトリでファイル libtcl.so を見つける際に問題があることを示しています。このファイルはマスターノードの正しいパスにあるため、ワーカーノードのセットアップが正しく機能していないようです:-
$ ray exec ray_conf.yaml 'tail -n 100 -f /tmp/ray/session_*/logs/monitor*'
2019-05-29 19:36:14,019 INFO updater.py:95 -- NodeUpdater: Waiting for IP of i-073950262949fe9a8...
2019-05-29 19:36:14,019 INFO log_timer.py:21 -- NodeUpdater: i-073950262949fe9a8: Got IP [LogTimer=362ms]
2019-05-29 19:36:14,025 INFO updater.py:272 -- NodeUpdater: Running tail -n 100 -f /tmp/ray/session_*/logs/monitor* on 54.175.173.233...
==> /tmp/ray/session_2019-05-29_23-35-49_842129_4407/logs/monitor.err <==
Traceback (most recent call last):
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/monitor.py", line 376, in <module>
redis_password=args.redis_password)
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/monitor.py", line 54, in __init__
self.load_metrics)
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 349, in __init__
self.reload_config(errors_fatal=True)
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 523, in reload_config
raise e
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 516, in reload_config
new_config["worker_start_ray_commands"]
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 790, in hash_runtime_conf
add_content_hashes(local_path)
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 778, in add_content_hashes
add_hash_of_file(fpath)
File "/home/ubuntu/anaconda3/lib/python3.6/site-packages/ray/autoscaler/autoscaler.py", line 764, in add_hash_of_file
with open(fpath, "rb") as f:
FileNotFoundError: [Errno 2] No such file or directory: './anaconda3/pkgs/matplotlib-2.1.0-py36hba5de38_0/lib/libtcl.so'
==> /tmp/ray/session_2019-05-29_23-35-49_842129_4407/logs/monitor.out <==
(この問題は、「レイによって EC2 で起動されていないワーカー」という質問に続くことに注意してください。エラーの原因がより具体的に特定されたため、新しい質問に進みました。)