2

Pythonとlxmlを使用していますが、エラーが発生します

私のコード

>>>import urllib
>>>from lxml import html

>>>response = urllib.urlopen('http://www.edmunds.com/dealerships/Texas/Grapevine/GrapevineFordLincoln_1/fullservice-505318162.html').read()
>>>dom = html.fromstring(response)

>>>dom.xpath("//div[@class='description item vcard']")[0].xpath(".//p[@class='service-review-paragraph loose-spacing']")[0].text_content()

トレースバック

Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/usr/local/lib/python2.7/dist-packages/lxml/html/__init__.py", line 249, in text_content
return _collect_string_content(self)
File "xpath.pxi", line 466, in lxml.etree.XPath.__call__ (src/lxml/lxml.etree.c:119105)
File "xpath.pxi", line 242, in lxml.etree._XPathEvaluatorBase._handle_result (src/lxml/lxml.etree.c:116936)
File "extensions.pxi", line 552, in lxml.etree._unwrapXPathObject (src/lxml/lxml.etree.c:112473)
File "apihelpers.pxi", line 1344, in lxml.etree.funicode (src/lxml/lxml.etree.c:21864)
UnicodeDecodeError: 'utf8' codec can't decode byte 0x93 in position 477: invalid start byte

問題は、フェッチしているdivに存在する特殊文字です。データを失うことなくテキストをエンコード/デコードするにはどうすればよいですか？

4

2 に答える 2

5

パーサーはこれがutf-8ファイルであると想定しますが、そうではありません。最も簡単な方法は、ページのエンコーディングを知って、最初にユニコードに変換することです。

>>> url =  urllib.urlopen('http://www.edmunds.com/dealerships/Texas/Grapevine/GrapevineFordLincoln_1/fullservice-505318162.html')
>>> url.headers.get('content-type')
'text/html; charset=ISO-8859-1'

>>> response = url.read()
#let's convert to unicode first
>>> response_unicode = codecs.decode(response, 'ISO-8859-1')
>>> dom = html.fromstring(response_unicode)
#and now...
>>> dom.xpath("//div[@class='description item vcard']")[0].xpath(".//p[@class='service-review-paragraph loose-spacing']")[0].text_content()
u'\n                  On December 5th, my vehicle completely shut down.\nI had it towed to Grapevine Ford where they told me that the intak.....

多田！

于 2012-04-19T11:02:45.477 に答える
0

そのため、ページが破損しているようです。UTF-8エンコーディングが指定されていますが、そのエンコーディングでは無効です。

urlopen(...).read()バイト文字列（）を返しますstr。にフィードするとlxml、UTF-8でデコードしようとして失敗します。

これは最善の方法ではないかもしれませんが、Latin-1などの別のエンコーディングを手動で指定できます。

response = urllib.urlopen（...）。read（）. decode（' latin-1 '）

responseこれがテキスト文字列（ ）であり、これがLXMLunicodeで使用したいものです。

于 2012-04-19T10:55:54.613 に答える