以下のように書かれたスパイダーがありますが、関数に到達していないようですparse
。誰かが簡単に見て、私が何か不足している場合はお知らせください。SgmlLinkExtractor を適切に実装していますか?
スパイダーは、左側のサイドバーからすべてのリンクを選択し、それらからリクエストを作成し、Facebook リンクの次のページを解析する必要があります。SgmlLinkExtractor で指定されているように、他のページに対してもこれを行う必要があります。現在、スパイダーは実行中ですが、ページを解析していません。
class PrinzSpider(CrawlSpider):
name = "prinz"
allowed_domains = ["prinzwilly.de"]
start_urls = ["http://www.prinzwilly.de/"]
rules = (
Rule(
SgmlLinkExtractor(
allow=(r'veranstaltungen-(.*)', ),
),
callback='parse'
),
)
def parse(self, response):
hxs = HtmlXPathSelector(response)
startlinks = hxs.select("//ul[@id='mainNav2']/li/a")
print startlinks
for link in startlinks:
giglink = link.select('@href').extract()
item = GigItem()
item['gig_link'] = giglink
request = Request(item['gig_link'], callback='parse_gig_page')
item.meta['item'] = item
yield request
def parse_gig_page(self, response):
hxs = HtmlXPathSelector(response)
item = response.meta['item']
gig_content = hxs.select("//div[@class='n']/table/tbody").extract()
fb_link = re.findall(r'(?:www.facebook.com/)(.*)', gig_content)
print '********** FB LINK ********', fb_link
return item
編集* *
settings.py
BOT_NAME = 'gigscraper'
SPIDER_MODULES = ['gigscraper.spiders']
NEWSPIDER_MODULE = 'gigscraper.spiders'
ITEM_PIPLINES = ['gigscraper.pipelines.GigscraperPipeline']
items.py
from scrapy.item import Item, Field
class GigItem(Item):
gig_link = Field()
pipelines.py
class GigscraperPipeline(object):
def process_item(self, item, spider):
print 'here I am in the pipeline'
return item