scrapy parse --spider=$spider -c parse_thread -d 100 --nolog $url
parse コマンドを使用して処理されるアイテムのパイプラインを有効にする方法はありますか?
コマンドを使用するcrawl
と、設定で指定されたパイプラインが使用され、URL を属性に追加できます。start_urls
または、これらの URL を取得して特定の関数をコールバックする場合はstart_requests
、URL に対して手動でリクエストをオーバーライドして発行できます。
def start_requests(self):
yield Request(url1, callback=self.my_callback)
yield Request(url2, callback=self.my_callback)