すべてのページリンクがクロールされ、引き続きクロールされるという状況がありました。ページリンクには「〜/ {someTerm} / {someOtherTerm} / __ p / ##/##」が含まれています。
問題は、現在、GoogleボットとMSNボットの両方が、クロールする必要のない数万のページをクロールしており、システムに負担をかけていることです。
そこで、ページングリンクをJavascriptリンクに変更し、「__ p」を含むすべてのURLを削除して、404-PageNotFoundを返すようにしました。本当に必要なのはページ1だけで、その後は1、2ページだけです(ただし、今は心配していません。
WebMasterTools for GoogleとMSNBotを使用して、URLに「__ p」を含むすべてのページを削除する方法はありますか?その場合、どのようにすればよいですか?
ありがとう。