http://www.mysite.com/adminすべてのボットがサブディレクトリとそのディレクトリ内のファイルとフォルダーをクロールするのをブロックしたいと考えています。たとえば、次の/adminような内部にさらにディレクトリがある場合がありますhttp://www.mysite.com/admin/assets/img
これを行うために robots.txt に含める正確な宣言が何であるかはわかりません。
それは次のとおりです。
User-agent: *
Disallow: /admin/
または:
User-agent: *
Disallow: /admin/*
または:
User-agent: *
Disallow: /admin/
Disallow: /admin/*