この結果を得るには、パターンマッチングルールを取得する必要があります。
allow /dir/path_name.htm/something
disallow /dir/path_name/something
and disallow /dir/path_name.htm
実際、これら2つの不許可は、ずっと蓄積されたタイプミスです。それらのページは決して存在しません。グーグルが二度とそれらをクロールするのを止める方法は?
ここでテストしました:http://www.frobee.com/robots-txt-check/次のようにテストしましたが、何も機能していないようです。
Allow: /dir/*.htm/?*
Disallow: /dir/*
何が悪かったのか?ありがとうございました。