Googleカスタム検索エンジンを使用しているサイトがあります。Google CSEに自分のサイトをクロールさせたいのですが、通常のGoogle検索の結果から除外したいのです。設定でGoogleCSEにクロールさせたいページを指定したので、GoogleCSEボットがそれを無視することを期待してrobots.txtファイルにこれを入れました
User-agent: *
Disallow: /
GoogleCSEボットもrobots.txtに従わなければならないと思います。それで、私のページを検索エンジン検索から除外する方法はありますが、Google CSEはそれでもインデックスを作成できますか?TIA!