-1

次の EU ページからコンテンツを抽出しようとしています。

http://europa.eu/about-eu/countries/member-countries/greece/index_el.htm

urllib2 と mechanize でページを開こうとしましたが、文字化けした奇妙なエンコードされたテキストが表示されます。

url='http://europa.eu/about-eu/countries/member-countries/greece/index_el.htm'

browser = mechanize.Browser()
browser.set_handle_robots(False)
cookies = mechanize.CookieJar()
browser.addheaders = [('User-agent', 'Mozilla/5.0 (X11; U; Linux i686; en-US)     AppleWebKit/534.7 (KHTML, like Gecko) Chrome/7.0.517.41 Safari/534.7')]

a=browser.open(url,timeout=5)
content=a.read()

与える

>>> content[:100]
'\x1f\x8b\x08\x00\x00\x00\x00\x00\x00\x03\xbcW\xddo\x1b\xc7\x11\x7fv\xfe\x8a\xf5\x050\x12\xc0\xe4I\xfejkS\x0c\\\x89M\x8c\xfa\xab\xb2\x84\xa2\x08\x0cay\xb7<\xae\xb9\xb7{\xbe\xdb\xa3\xcc\x16\x05$\xcb\xae\xeb\xc0\x0eP\xa4F\x9f\x8a6\xe8\xabcWQTWV\\\xbd\xc4\xafG\xf9?\xea\xcc\xdd\xf1x\xa4HK:\xc9\\A\xe4r?'

しかし、時にはそれが機能します:

>>> content[:100]
'<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd'

この問題に遭遇しないようにするにはどうすればよいですか？

4

1 に答える 1

2

gzip されたコンテンツを受信して​​います。Content-Encoding ヘッダーをテストし、解凍します。

import zlib

if a.info().get('Content-Encoding', '').lower() == 'gzip':
    decompressor = zlib.decompressobj(16 + zlib.MAX_WBITS)
    content = decompressor.decompress(content)

または、セッションを処理するだけでなく、gzip を透過的に解凍し、応答を圧縮する優れたpython-requestsライブラリを使用します。

于 2013-11-12T19:34:04.447 に答える