为了账号安全,请及时绑定邮箱和手机立即绑定

pyspider 是否支持mongodb集群作为taskdb

pyspider 是否支持mongodb集群作为taskdb

一只斗牛犬 2018-08-03 15:51:03
问题描述抓取类似知乎的回答 由于知乎的回答有的非常多 所以用了response.save来存前面爬去的结果由于知乎站点不能爬取太快 可能有导致任务不能及时完成所以taskdb需要存取的数据非常多 那个项目的taskdb接近250GB你期待的结果是什么?实际看到的错误信息又是什么?pyspider是否支持mongodb集群作为taskdb然后应该怎么配置...
查看完整描述

1 回答

  • 1 回答
  • 0 关注
  • 887 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信