使用bs4 / python3提取href?

时间:2017-07-14 04:43:37

标签: python python-3.x

我是python和bs4的新手,请放轻松我。

#!/usr/bin/python3
import bs4 as bs
import urllib.request
import time, datetime, os, requests, lxml.html
import re
from fake_useragent import UserAgent

url = "https://www.cvedetails.com/vulnerability-list.php"
ua = UserAgent()
header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.115 Safari/537.36'}
snkr = requests.get(url,headers=header)
soup = bs.BeautifulSoup(snkr.content,'lxml')

for item in soup.find_all('tr', class_="srrowns"):
    print(item.td.next_sibling.next_sibling.a)

打印:

<a href="/cve/CVE-2017-6712/" title="CVE-2017-6712 security vulnerability details">CVE-2017-6712</a>
<a href="/cve/CVE-2017-6708/" title="CVE-2017-6708 security vulnerability details">CVE-2017-6708</a>
<a href="/cve/CVE-2017-6707/" title="CVE-2017-6707 security vulnerability details">CVE-2017-6707</a>
<a href="/cve/CVE-2017-1269/" title="CVE-2017-1269 security vulnerability details">CVE-2017-1269</a>
<a href="/cve/CVE-2017-0711/" title="CVE-2017-0711 security vulnerability details">CVE-2017-0711</a>
<a href="/cve/CVE-2017-0706/" title="CVE-2017-0706 security vulnerability details">CVE-2017-0706</a>

无法弄清楚如何提取/cve/CVE-2017-XXXX/部分。不幸的是,我以错误的方式走了它。我不需要标题或HTML,只需要uri的。

1 个答案:

答案 0 :(得分:1)

BeautifulSoup通常有太多的历史变体用于过滤和获取东西,其中一些比其他更烦人。我忽略了其中的大多数,因为它令人困惑。

对于属性我更喜欢get(),所以这里item.td.next_sibling.next_sibling.a.get('href'),因为如果没有这样的属性它会返回None,而不是给出异常。