すべてのエージェントがすべてのサイトとそのサブディレクトリにアクセスできるようにする必要がありますが、ディレクトリは 2 つです。
User-agent: *
Disallow: /disable_dir_1/
Disallow: /disable_dir_2/
これはこれを達成するための適切な方法ですか?
すべてのエージェントがすべてのサイトとそのサブディレクトリにアクセスできるようにする必要がありますが、ディレクトリは 2 つです。
User-agent: *
Disallow: /disable_dir_1/
Disallow: /disable_dir_2/
これはこれを達成するための適切な方法ですか?
これを自動的に行うツールがあります: robots.txt ジェネレーター
とにかく、あなたのアプローチは問題ありませんが、その点に関しては Google の推奨事項に従うことを強くお勧めします: Google robots.txt の説明