如何在不使用日志文件的情况下在scrapy中收集连接被拒绝错误的网址

问题描述

我正在写一个scrapy crawler,在日志文件scrapy stats的末尾,'retry/reason_count/twisted.internet.error.ConnectionRefusedError':2,我想将这两个url收集到一个列表中并打印出来,有没有办法在所有网址的抓取完成后不保存和解析日志文件

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)