Question

我正在使用lxml XPath来解析以下xml文件

<urlset
    xmlns="http://www.sitemaps.org/schemas/sitemap/0.9"
    xmlns:news="http://www.google.com/schemas/sitemap-news/0.9"
    xmlns:image="http://www.google.com/schemas/sitemap-image/1.1">
    <url>
        <loc>
    https://www.reuters.com/article/us-campbellsoup-thirdpoint/campbell-soup-nears-deal-with-third-point-to-end-board-challenge-sources-idUSKCN1NU11I
    </loc>
        <image:image>
            <image:loc>
    https://www.reuters.com/resources/r/?m=02&d=20181126&t=2&i=1328589868&w=&fh=&fw=&ll=460&pl=300&r=LYNXNPEEAO0WM
    </image:loc>
        </image:image>
        <news:news>
            <news:publication>
                <news:name>Reuters</news:name>
                <news:language>eng</news:language>
            </news:publication>
            <news:publication_date>2018-11-26T02:55:00+00:00</news:publication_date>
            <news:title>
    Campbell Soup nears deal with Third Point to end board challenge: sources
    </news:title>
            <news:keywords>Headlines,Business, Industry</news:keywords>
            <news:stock_tickers>NYSE:CPB</news:stock_tickers>
        </news:news>
    </url>
</urlset>

Python代码示例

import lxml.etree
import lxml.html
import requests

def main():
    r = requests.get("https://www.reuters.com/sitemap_news_index1.xml")

    namespace = "http://www.google.com/schemas/sitemap-news/0.9"
    root = lxml.etree.fromstring(r.content)


    records = root.xpath('//news:title', namespaces = {"news": "http://www.google.com/schemas/sitemap-news/0.9"})
    for record in records:
        print(record.text)


    records = root.xpath('//sitemap:loc', namespaces = {"sitemap": "http://www.sitemaps.org/schemas/sitemap/0.9"})
    for record in records:
        print(record.text)


if __name__ == "__main__":
    main()

当前，我是XPath来获取所有 URL 和 title ，但这不是我想要的，因为我不知道哪个URL属于哪个标题。我的问题是如何获取每个<url>，然后将每个<url>作为项目循环以获取相应的<loc>和<news:keywords>等。谢谢！

编辑：预期产量

foreach <url>
      get <loc>
      get <news:publication_date>
      get <news:title>

Answer 1

使用相对XPath从每个标题获取与其关联的URL：

ns = {
    "news": "http://www.google.com/schemas/sitemap-news/0.9",
    "sitemap": "http://www.sitemaps.org/schemas/sitemap/0.9",
    "image": "http://www.google.com/schemas/sitemap-image/1.1"
}

r = requests.get("https://www.reuters.com/sitemap_news_index1.xml")
root = lxml.etree.fromstring(r.content)

for title in root.xpath('//news:title', namespaces=ns):
    print(title.text)

    loc = title.xpath('ancestor::sitemap:url/sitemap:loc', namespaces=ns)
    print(loc[0].text)

锻炼：将其重写以从URL到关联的标题。

注意：标题（可能还有URL）似乎是HTML转义的。使用unescape()函数

from html import unescape

取消转义。

Answer 2

答案是

from datetime import datetime
from html import unescape
from lxml import etree
import requests

r = requests.get("https://www.reuters.com/sitemap_news_index1.xml")
root = etree.fromstring(r.content)

ns = {
    "news": "http://www.google.com/schemas/sitemap-news/0.9",
    "sitemap": "http://www.sitemaps.org/schemas/sitemap/0.9",
    "image": "http://www.google.com/schemas/sitemap-image/1.1"
}

for url in root.iterfind("sitemap:url", namespaces=ns):
    loc = url.findtext("sitemap:loc", namespaces=ns)
    print(loc)
    title = unescape(url.findtext("news:news/news:title", namespaces=ns))
    print(title)
    date = unescape(url.findtext("news:news/news:publication_date", namespaces=ns))
    date = datetime.strptime(date, '%Y-%m-%dT%H:%M:%S+00:00')
    print(date)

经验法则是：

尽量不要使用 xpath。使用 find、findall、iterfind 代替 xpath。 xpath 是一种比 find、findall 或 iterfind 更复杂的算法，它需要更多的时间和资源。

使用 iterfind 而不是使用 findall。因为 iterfind 将产生返回项目。也就是说，它将一次返回一项。因此它使用更少的内存。

如果您只需要文本，请使用 findtext。

更一般的规则是阅读official document。

首先，让我们创建 3 个 for 循环函数并进行比较。

def for1():
    for url in root.iterfind("sitemap:url", namespaces=ns):
        pass

def for2():
    for url in root.findall("sitemap:url", namespaces=ns):
        pass

def for3():
    for url in root.xpath("sitemap:url", namespaces=ns):
        pass

<头>

函数	时间
`root.iterfind`	70.5 µs ± 543 ns
`root.findall`	72.3 µs ± 839 ns
`root.xpath`	84.8 µs ± 567 ns

我们可以看到 iterfind 是预期中最快的。

接下来，让我们检查一下 for 循环中的语句。

<头>

声明	时间
`url.xpath('string(news:news/news:title)', namespaces=ns)`	15.7 µs ± 112 ns
`url_item.xpath('news:news/news:title', namespaces=ns)[0].text`	14.4 µs ± 53.7 ns
`url_item.find('news:news/news:title', namespaces=ns).text`	3.74 µs ± 60 ns
`url_item.findtext('news:news/news:title', namespaces=ns)`	3.71 µs ± 40.3 ns

从上表中，我们可以看到 find/findtext 比 xpath 快 4 倍。而且 findtext 甚至比 find 还要快。

与 Tomalak 的 8.33 ms ± 52.4 µs 相比，此答案仅需 3.41 ms ± 53 µs

使用lxml xpath解析xml文件

2 个答案: