Google ウェブマスター ツールで設定しようとしている新しいウェブサイトで実際に問題が発生しています。「robots.txt に到達できません」というメッセージが表示され続けます。Google は、robots.txt ファイルにアクセスできないため、サイトをクロールできないと言っています。
ご覧のとおり、ファイルが存在し、サーバー ヘッダーを確認したところ、ファイルのステータス 200 が返されています。
http://www. top5beauty.co.uk / robots.txt (スペースなし)
奇妙なことに、http://top5beauty.co.uk/robots.txt (no www) を取得すると、実際には www にリダイレクトされますが、問題はありません。
誰か提案はありますか?