问题描述
我正在尝试抓取https://www.boscovs.com/网站。 Boscovs开发团队与我们分享了bot名称。如果我在标题中添加机器人名称
headers = {"User-Agent": 'Name Given by the dev team/1.0'}
data = requests.get('https://www.boscovs.com/',headers=headers)
我收到超时错误,但是如果我随机采样,测试,自定义等字符串,则...
headers = {"User-Agent": 'sample'}
data = requests.get('https://www.boscovs.com/',headers=headers)
我得到200作为回应。但是,如果我通过URL传递有效的机器人名称,则会引发超时错误。我不知道为什么会这样,它会单独阻止机器人。我必须传递的机器人名称是什么。你能帮我解决这个问题吗?最终,我必须使用他们给定的机器人名称。
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)