私はさまざまなフォーラムを調べてきましたが、これが正しいかどうか疑問に思っていました. 特定のサブページ (例: www.website.com/subpage/?query=sample) でのみボットがクエリをクロールするのを無効にしようとしています。/subpage/ も許可されないようにしています。間違っている場合は修正してください。
ファイル: robots.txt
User-agent: *
Disallow: /subpage/*?
でクエリ文字列を指定できないと思いますDisallow
。に設定した値は、ドキュメントのようにDisallow
参照さDirectory
れます (URI
またはではありませんURL
)。
ただし、を使用することで目的を達成できますSitemap.xml
。URL
インデックスを作成したくない from サイトマップを除外できます。
Google ウェブマスター ツールでは、クエリ文字列パラメーターの解釈方法をある程度細かく制御することもできます。それがあなたの目的に役立つかどうかわからない