robot.txt ファイルに URL/custompages/*
を入力しました。Google ボットは、「/custompages/」に一致するページをクロールしないでください。
しかし、ウェブマスターを調べたところ、これらのリンクからのエラー メッセージがまだ表示されています。
User-agent: *
Disallow: /search/application/*
Disallow: /custompages/*
上記は私の robot.txt ファイルです。
Googlebot couldn't access the contents of this URL because the server had an internal error when trying to process the request. These errors tend to be with the server itself, not with the request.
ウェブマスターで URLを確認できます
custompages/savesearch?alid=9161
どこで問題が発生した可能性がありますか..?