python-2.7 - スクレイピーアイテムエクスポーターは優先度をサポートしていますか? はいの場合、どのように？

Question

優先度をサポートするということは、アイテム パイプラインからアイテムをポップすると、最も優先度の高いアイテムが返されるということです。

Answer 1

たぶん、自分でカスタマイズできます。

パイプライン.py

class PriorityPipeline(object):
    def __init__(self):
        self.ids_seen = set()
    def process_item(self, item, spider):
        if item['id'] in self.ids_seen:
            raise DropItem("Duplicate item found: %s" % item)
        else:
            self.ids_seen.add(item['id'])
            return item

設定.py

ITEM_PIPELINES = [
    'soufun.pipelines.PriorityPipeline',
]