scrapy创建简单的规则引擎

时间:2017-01-17 05:03:18

标签: python scrapy rule-engine

我使用scrapy来解析htmls。

def get_scripts(self, response):

    items = response.css('ul#top-menu').css('a::text').extract()
    if items:
        self.write_file(response.meta['item'],items)          
    else:
        items = response.css('ul.menu').css('a::text').extract()
        if items:
            self.write_file(response.meta['item'],items)

        else:
            items = response.css('ul.nav').css('a::text').extract()
            self.write_file(response.meta['item'],items)

现在我想将所有逻辑放在一个数组中。喜欢

logicArr=['response.css('ul#top-menu').css('a::text').extract()','response.css('ul.menu').css('a::text').extract()','response.css('ul.nav').css('a::text').extract()']

然后循环遍历此数组并选择每个逻辑并执行它。基本上我有无限数量的逻辑,所以我不能写if / else块中的所有。我想要的是这样的。

for logic in logicArr:  
            items=execute(logic)
            if items:
                self.write_items_to_file()
                break

1 个答案:

答案 0 :(得分:0)

for logic in logicArr:
    items=exec logic
    if items:
        self.write_items_to_file()
        break
相关问题