http://www.mysite.com/admin
すべてのボットがサブディレクトリとそのディレクトリ内のファイルとフォルダーをクロールするのをブロックしたいと考えています。たとえば、次の/admin
ような内部にさらにディレクトリがある場合がありますhttp://www.mysite.com/admin/assets/img
これを行うために robots.txt に含める正確な宣言が何であるかはわかりません。
それは次のとおりです。
User-agent: *
Disallow: /admin/
または:
User-agent: *
Disallow: /admin/*
または:
User-agent: *
Disallow: /admin/
Disallow: /admin/*