最終的な目的地ではなく、リダイレクトページをインデックスする特定の悪い検索エンジンに noindex x-robots タグを設定したいと考えています。
ルート .htaccess ファイルの先頭に、以下のルールを追加しました。
<IfModule mod_headers.c>
Header add X-Robots-Tag "BadBot: noindex"
</IfModule>
このように動作します。
Requesting http://example.com/page
SERVER RESPONSE: HTTP/1.1 301 Moved Permanently
Date: Mon, 17 Jul 2017 11:17:10 GMT
Content-Type: text/html; charset=iso-8859-1
Connection: keep-alive
Location: https://example.com/page
SERVER RESPONSE: HTTP/1.1 301 Moved Permanently
Date: Mon, 17 Jul 2017 11:17:11 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
Location: https://www.example.com/page/
X-Robots-Tag: BadBot: noindex
SERVER RESPONSE: HTTP/1.1 200 OK
Date: Mon, 17 Jul 2017 11:17:13 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
X-Robots-Tag: BadBot: noindex
要求:http://example.com/page
最終:https://www.example.com/page/
要求された URL で、 HTTPS を強制しているときにX-robots-tagが欠落しています。この問題に取り組む方法はありますか?
ありがとう