私は Scrapy を初めて使用します。この質問が些細なことでしたら申し訳ありません。公式ウェブページから Scrapy に関するドキュメントを読みました。ドキュメントに目を通してみると、次の例に出会いました。
import scrapy
from myproject.items import MyItem
class MySpider(scrapy.Spider):
name = ’example.com’
allowed_domains = [’example.com’]
start_urls = [
’http://www.example.com/1.html’,
’http://www.example.com/2.html’,
’http://www.example.com/3.html’,
]
def parse(self, response):
for h3 in response.xpath(’//h3’).extract():
yield MyItem(title=h3)
for url in response.xpath(’//a/@href’).extract():
yield scrapy.Request(url, callback=self.parse)
parse メソッドがアイテムまたは/およびリクエストを返さなければならないことはわかっていますが、これらの戻り値はどこに返されるのでしょうか?
1つはアイテムで、もう1つはリクエストです。この2つのタイプは異なる方法で処理されると思います。 の場合、CrawlSpider
コールバック付きのルールがあります。このコールバックの戻り値はどうですか? どこへ ?と同じparse()
?
ドキュメントを読んでも、Scrapyの手順について非常に混乱しています....