问题描述
我一直在尝试使用scrapy-crawlera 作为代理来使用scrapy 抓取一些数据。我在 settings.py 中添加了这些行：
DOWNLOADER_MIDDLEWARES = { 'scrapy_crawlera.CrawleraMiddleware': 610,}
CRAWLERA_ENABLED = True
CRAWLERA_APIKEY = 'MY_CRAWLERA_API_KEY'
在新更改的 scrapinghub 网站 app.zyte.com 中，我创建了一个智能代理管理器帐户，我的 api 密钥来自我的帐户设置。
我收到此警告 WARNING: retrying crawlera request for authentication issue 并且网站没有被抓取。
我做错了什么吗？
解决方法
这似乎是一个显而易见的答案，但我遇到了这个问题，并通过确保我使用的 API 密钥正确来解决它。就我而言，Zyte 发给我的第一个 API 密钥没有激活。我回到我的帐户控制台并在那里复制 API 密钥（它是不同的）。
因此，请确保您使用的是正确的密钥或尝试在控制台中创建一个新密钥。