python - Selenium HTML 文字列を Scrapy に渡して、スクレイピングする URL の Scrapy リストに URL を追加します

Question

Python、Scrapy、Selenium は初めてです。したがって、あなたが提供できるどんな助けも大歓迎です。

Selenium から取得した HTML をページ ソースとして取得し、それを Scrapy Response オブジェクトに処理できるようにしたいと考えています。主な理由は、Selenium Webdriver ページ ソースの URL を、Scrapy が解析する URL のリストに追加できるようにするためです。

繰り返しますが、助けていただければ幸いです。

簡単な 2 番目の質問として、Scrapy が見つけてスクレイピングした URL のリストに含まれている、または含まれていた URL のリストを表示する方法を知っている人はいますか?

ありがとう！

*******編集******* これは私がやろうとしていることの例です。パート5がわかりません。

class AB_Spider(CrawlSpider):
    name = "ab_spider"
    allowed_domains = ["abcdef.com"]
    #start_urls = ["https://www.kickstarter.com/projects/597507018/pebble-e-paper-watch-for-iphone-and-android"
    #, "https://www.kickstarter.com/projects/801465716/03-leagues-under-the-sea-the-seaquestor-flyer-subm"]
    start_urls = ["https://www.abcdef.com/page/12345"]

    def parse_abcs(self, response):
        sel = Selector(response)
        URL = response.url

        #part 1: check if a certain element is on the webpage
        last_chk = sel.xpath('//ul/li[@last_page="true"]')
        a_len = len(last_chk)

        #Part 2: if not, then get page via selenium webdriver
        if a_len == 0:
            #OPEN WEBDRIVER AND GET PAGE
            driver = webdriver.Firefox()
            driver.get(response.url)    

        #Part 3: run script to ineract with page until certain element appears
        while a_len == 0:
            print "ELEMENT NOT FOUND, USING SELENIUM TO GET THE WHOLE PAGE"

            #scroll down one time
            driver.execute_script("window.scrollTo(0, 1000000000);")

            #get page source and check if last page is there
            selen_html = driver.page_source
            hxs = Selector(text=selen_html)
            last_chk = hxs.xpath('//ul/li[@last_page="true"]')

            a_len = len(last_chk)

        driver.close()

        #Part 4: extract the URLs in the selenium webdriver URL 
        all_URLS = hxs.xpath('a/@href').extract()

        #Part 5: all_URLS add to the Scrapy URLs to be scraped