使用python的elementtree解析大型xml数据

时间:2013-05-18 13:28:58

标签: python xml elementtree

我目前正在学习如何使用elementtree解析xml数据。我收到一条错误消息:ParseError:格式不正确(令牌无效):第1行第2列。

我的代码就在下面,一些xml数据在我的代码之后。

import xml.etree.ElementTree as ET

tree = ET.fromstring("C:\pbc.xml")
root = tree.getroot()


for article in root.findall('article'):
    print ' '.join([t.text for t in pub.findall('title')])
    for author in article.findall('author'):
        print 'Author name: {}'.format(author.text)
    for journal in article.findall('journal'):  # all venue tags with id attribute
        print 'journal'
<?xml version="1.0" encoding="ISO-8859-1"?>
<!DOCTYPE dblp SYSTEM "dblp.dtd">
<dblp>
<article mdate="2002-01-03" key="persons/Codd71a">
<author>E. F. Codd</author>
<title>Further Normalization of the Data Base Relational Model.</title>
<journal>IBM Research Report, San Jose, California</journal>
<volume>RJ909</volume>
<month>August</month>
<year>1971</year>
<cdrom>ibmTR/rj909.pdf</cdrom>
<ee>db/labs/ibm/RJ909.html</ee>
</article>

<article mdate="2002-01-03" key="persons/Hall74">
<author>Patrick A. V. Hall</author>
<title>Common Subexpression Identification in General Algebraic Systems.</title>
<journal>Technical Rep. UKSC 0060, IBM United Kingdom Scientific Centre</journal>
<month>November</month>
<year>1974</year>
</article>

3 个答案:

答案 0 :(得分:1)

with open("C:\pbc.xml", 'rb') as f:
    root = ET.fromstring(f.read().strip())

ET.parse不同,ET.fromstring需要一个包含XML内容的字符串,而不是文件名。

ET.parse相反,ET.fromstring返回根元素,而不是树。所以你应该省略

root = tree.getroot()

此外,您发布的XML代码段需要关闭</dblp>才能解析。我假设您的真实数据有结束标记......


xml.etree.ElementTree提供的iterparse没有tag参数,尽管lxml.etree.iterparse确实有tag参数。

尝试:

import xml.etree.ElementTree as ET
import htmlentitydefs

filename = "test.xml"
# http://stackoverflow.com/a/10792473/190597 (lambacck)
parser = ET.XMLParser()
parser.entity.update((x, unichr(i)) for x, i in htmlentitydefs.name2codepoint.iteritems())
context = ET.iterparse(filename, events = ('end', ), parser=parser)
for event, elem in context:
    if elem.tag == 'article':
        for author in elem.findall('author'):
            print 'Author name: {}'.format(author.text)
        for journal in elem.findall('journal'):  # all venue tags with id attribute
            print(journal.text)
        elem.clear()

注意:要使用iterparse,您的XML必须有效,这意味着文件开头不能有空行。

答案 1 :(得分:1)

您使用.fromstring()代替.parse()

import xml.etree.ElementTree as ET

tree = ET.parse("C:\pbc.xml")
root = tree.getroot()
期望

.fromstring()以字节串形式提供XML数据,而不是文件名。

如果文档非常大(很多兆字节或更多),那么您应该使用ET.iterparse() function代替并清除已处理的元素:

for event, article in ET.iterparse('C:\\pbc.xml', tag='article'):
    for title in aarticle.findall('title'):
        print 'Title: {}'.format(title.txt)
    for author in article.findall('author'):
        print 'Author name: {}'.format(author.text)
    for journal in article.findall('journal'):
        print 'journal'

    article.clear()

答案 2 :(得分:0)

最好不要将xml文件的元信息放入解析器中。如果标签关闭良好,解析器就能很好地完成。因此解析器可能无法识别<?xml。因此省略前两行并再试一次。 : - )