編集: robots.txt でこれを行うだけでは十分ではありません。
このコードは、サイト全体を Google からブロックします。このコードの機能を維持する方法はわかりませんが、Google がサイト上の 1 つのフォルダーにアクセスできるようにします。
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_USER_AGENT} Googlebot [OR]
RewriteRule ^(.*)$ - [F,L]
2つの条件があった場合、これは機能しますか?
Options +FollowSymLinks -MultiViews
# Turn mod_rewrite on
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_USER_AGENT} Googlebot [OR]
RewriteCond %{HTTP_USER_AGENT} yahoo [OR]
RewriteCond %{REQUEST_URI} !^/allowed-folder/ [NC]
RewriteRule ^ - [F,L]