Scrapy：如果密钥存在，为什么会出现 KeyError？

Question

定义了items.py：

import scrapy 

class CraigslistSampleItem(scrapy.Item):
    title = scrapy.Field()
    link = scrapy.Field()

并通过蜘蛛填充每个项目：

item = CraigslistSampleItem()
item["title"] = $someXpath.extract() 
item["link"] = $someOtherXpath.extract()

当我将这些附加到列表（由 parse() 返回）并将其存储为例如一个 csv，我得到两列数据，title 和 link，如预期的那样。如果我注释掉 link 的 XPath 并存储为 csv，我仍然会得到两列数据，link 列中的值为空字符串.这似乎是合理的，因为标题和 link 都是每个 CraigslistSampleItem class 的属性。那么，我想我可以做这样的事情（link 的 XPath 仍然被注释掉）：

  if item["link"] == '':
      print "link has not been given a value"

然而，为每个项目获取 link 属性的尝试因此失败：

File "/System/Library/Frameworks/Python.framework/Versions/2.7/lib/python2.7/site-packages/scrapy/item.py", line 50, in __getitem__
    return self._values[key]
exceptions.KeyError: 'link'

如果每个项目实例确实具有 link 的值（尽管是空字符串），为什么我不能访问此键？

Answer 1

Scrapy Item class 提供了一个类似字典的接口来存储提取的数据。 没有为项目字段设置默认值。

要检查该字段是否已设置，只需检查项目实例中的字段键：

if 'link' not in item:
    print "link has not been given a value"

演示：

In [1]: import scrapy

In [2]: class CraigslistSampleItem(scrapy.Item):
   ...:         title = scrapy.Field()
   ...:         link = scrapy.Field()
   ...:     

In [3]: item = CraigslistSampleItem()

In [4]: item["title"] = "test"

In [5]: item
Out[5]: {'title': 'test'}

In [6]: "link" in item
Out[6]: False

In [7]: item["link"] = "test link"

In [8]: "link" in item
Out[8]: True

Scrapy：如果密钥存在，为什么会出现 KeyError？

Scrapy: If key exists, why do I get a KeyError?

python

key

list

scrapy

scrapy-spider