为了账号安全,请及时绑定邮箱和手机立即绑定

在 python 中的 WebScraping javascript 页面

在 python 中的 WebScraping javascript 页面

aluckdog 2021-12-23 10:33:34
你好世界,Python 中的新内容,我正在尝试抓取一个 javascript 页面:https ://search.gleif.org/#/search/请在下面从我的代码中找到结果(使用请求)<!DOCTYPE html><html><head><meta charset="utf-8"/><meta content="width=device-width,initial-scale=1" name="viewport"/><title>LEI Search 2.0</title><link href="/static/icons/favicon.ico" rel="shortcut icon" type="image/x-icon"/><link href="https://fonts.googleapis.com/css?family=Open+Sans:200,300,400,600,700,900&amp;subset=cyrillic,cyrillic-ext,greek,greek-ext,latin-ext,vietnamese" rel="stylesheet"/><link href="/static/css/main.045139db483277222eb714c1ff8c54f2.css" rel="stylesheet"/></head><body><div id="app"></div><script src="/static/js/manifest.2ae2e69a05c33dfc65f8.js" type="text/javascript"></script><script src="/static/js/vendor.6bd9028998d5ca3bb72f.js" type="text/javascript"></script><script src="/static/js/main.5da23c5198041f0ec5af.js" type="text/javascript"></script></body></html>问题: 而不是检索上面的脚本:"src="/static/js/manifest.2ae2e69a05c33dfc65f8.js" type="text/javascript""我想拥有表格的内容以便存储它。我想刮的桌子
查看完整描述

1 回答

?
FFIVE

TA贡献1797条经验 获得超6个赞

以下代码是使用PySelenium编写的。


import time

from selenium import webdriver


country = []

legal_name = []

lei = []


driver = webdriver.Chrome()

driver.implicitly_wait(5)


for i in range(1,30395):

    driver.get('https://search.gleif.org/#/search/fulltextFilterId=LEIREC_FULLTEXT&currentPage='+str(i)+'&perPage=50&expertMode=false#results-section')


    time.sleep(5)


    country += [i.get_attribute('innerHTML') for i in driver.find_elements_by_xpath('//*[@class="table-cell country"]/a')]

    legal_name += [i.get_attribute('innerHTML') for i in driver.find_elements_by_xpath('//*[@class="table-cell legal-name"]/a')]

    lei += [i.get_attribute('innerHTML') for i in driver.find_elements_by_xpath('//*[@class="table-cell lei"]/a')]

登录(使用相应的元素更改此设置。)

driver.find_element_by_id("UserName").send_keys("xxxx")

driver.find_element_by_name("Password").send_keys("yyyy")

driver.find_element_by_class("loginButton").click()

获取页面内容

print(driver.page_source)


查看完整回答
反对 回复 2021-12-23
  • 1 回答
  • 0 关注
  • 148 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信