问题:爬虫某小茶叶电商平台网网站的商品数据网址: http://donghetea.com/category...频道:行情参考)爬虫计划>1、在类目下,获取所有商品的url(已获取行情参考下所有商品url链接)2、请求每个url,爬取详细的产品年份,规格,价格等。目前遇到问题~看到商品资料是用js加载。工具:用python3 requests 和beautifulsoup 解析 无法解析产品url里面js加载的产品信息 我用了下下策,用selenium来模拟打开浏览器,再用beautfulsoup解析获取商品详情页面里的资料。但是效率太低了,想请教是否有更好的方法~试过抓包,但是因为太菜,没找到api。
添加回答
举报
0/150
提交
取消