スケジュールに従ってWebサイトからMP3ファイルをダウンロードし、iTunesに追加したポッドキャストXMLファイルをビルド/更新するために使用する小さなユーティリティがあります。
XMLファイルを作成/更新するテキスト処理はPythonで記述されています。ただし、Windows.batファイル内でwgetを使用して、実際のMP3ファイルをダウンロードします。ユーティリティ全体をPythonで記述したいと思います。
Pythonでファイルを実際にダウンロードする方法を見つけるのに苦労したので、なぜ。を使用することにしwgetました。
では、Pythonを使用してファイルをダウンロードするにはどうすればよいですか？
One more, using urlretrieve:
import urllib
urllib.urlretrieve("http://www.example.com/songs/mp3.mp3", "mp3.mp3")
(for Python 3+ use import urllib.request and urllib.request.urlretrieve)
Yet another one, with a "progressbar"
import urllib2
url = "http://download.thinkbroadband.com/10MB.zip"
file_name = url.split('/')[-1]
u = urllib2.urlopen(url)
f = open(file_name, 'wb')
meta = u.info()
file_size = int(meta.getheaders("Content-Length")[0])
print "Downloading: %s Bytes: %s" % (file_name, file_size)
file_size_dl = 0
block_sz = 8192
while True:
buffer = u.read(block_sz)
if not buffer:
break
file_size_dl += len(buffer)
f.write(buffer)
status = r"%10d [%3.2f%%]" % (file_size_dl, file_size_dl * 100. / file_size)
status = status + chr(8)*(len(status)+1)
print status,
f.close()
import urllib.request
with urllib.request.urlopen('http://www.example.com/') as f:
html = f.read().decode('utf-8')
これは、エラー処理を除いた、ライブラリを使用するための最も基本的な方法です。ヘッダーの変更など、より複雑な作業を行うこともできます。
Python 2では、メソッドは次のようになりurllib2ます。
import urllib2
response = urllib2.urlopen('http://www.example.com/')
html = response.read()
2012 年には、python requests ライブラリを使用します。
>>> import requests
>>>
>>> url = "http://download.thinkbroadband.com/10MB.zip"
>>> r = requests.get(url)
>>> print len(r.content)
10485760
あなたはそれを得るために走ることができますpip install requests。
API ははるかに単純であるため、Requests には他の方法よりも多くの利点があります。これは、認証を行う必要がある場合に特に当てはまります。この場合、urllib と urllib2 はかなり非直感的で面倒です。
2015-12-30
人々はプログレスバーに賞賛を表明しています. かっこいいですね、たしかに。現在、次のような既製のソリューションがいくつかありますtqdm。
from tqdm import tqdm
import requests
url = "http://download.thinkbroadband.com/10MB.zip"
response = requests.get(url, stream=True)
with open("10MB", "wb") as handle:
for data in tqdm(response.iter_content()):
handle.write(data)
これは基本的に、@kvance が 30 か月前に説明した実装です。
import urllib2
mp3file = urllib2.urlopen("http://www.example.com/songs/mp3.mp3")
with open('test.mp3','wb') as output:
output.write(mp3file.read())
wbinはファイルをバイナリ モードで開く (そしてopen('test.mp3','wb')既存のファイルをすべて消去する) ため、テキストだけでなくデータも保存できます。
以下は、Python でファイルをダウンロードするために最も一般的に使用される呼び出しです。
urllib.urlretrieve ('url_to_file', file_name)
urllib2.urlopen('url_to_file')
requests.get(url)
wget.download('url', file_name)
注:大きなファイル (サイズが 500 MB を超える) をダウンロードするurlopenとurlretrieve、パフォーマンスが比較的低下することがわかっています。requests.getダウンロードが完了するまでファイルをメモリに保存します。
Corey に同意します。urllib2 はurllibよりも完全であり、より複雑なことをしたい場合に使用されるモジュールである可能性がありますが、答えをより完全にするために、基本だけが必要な場合は urllib がより単純なモジュールです。
import urllib
response = urllib.urlopen('http://www.example.com/sound.mp3')
mp3 = response.read()
うまくいきます。または、「応答」オブジェクトを処理したくない場合は、read()を直接呼び出すことができます。
import urllib
mp3 = urllib.urlopen('http://www.example.com/sound.mp3').read()
wget がインストールされている場合は、parallel_sync を使用できます。
pip install parallel_sync
from parallel_sync import wget
urls = ['http://something.png', 'http://somthing.tar.gz', 'http://somthing.zip']
wget.download('/tmp', urls)
# or a single file:
wget.download('/tmp', urls[0], filenames='x.zip', extract=True)
ドキュメント: https://pythonhosted.org/parallel_sync/pages/examples.html
これはかなり強力です。ファイルを並行してダウンロードし、失敗時に再試行し、リモート マシンにファイルをダウンロードすることもできます。
urlretrieve を使用して進行状況のフィードバックを取得することもできます。
def report(blocknr, blocksize, size):
current = blocknr*blocksize
sys.stdout.write("\r{0:.2f}%".format(100.0*current/size))
def downloadFile(url):
print "\n",url
fname = url.split('/')[-1]
print fname
urllib.urlretrieve(url, fname, report)
速度が重要な場合は、モジュールurllibとwgetについて簡単なパフォーマンス テストを行いました。これについてwgetは、ステータス バーを使用して 1 回、ステータス バーなしで 1 回試しました。テスト用に 3 つの異なる 500MB ファイルを使用しました (異なるファイル - 内部でキャッシングが行われている可能性を排除するため)。python2 を使用して、debian マシンでテスト済み。
まず、これらは結果です (異なる実行でも同様です)。
$ python wget_test.py
urlretrive_test : starting
urlretrive_test : 6.56
==============
wget_no_bar_test : starting
wget_no_bar_test : 7.20
==============
wget_with_bar_test : starting
100% [......................................................................] 541335552 / 541335552
wget_with_bar_test : 50.49
==============
私がテストを実行した方法は、「プロファイル」デコレーターを使用することです。これは完全なコードです:
import wget
import urllib
import time
from functools import wraps
def profile(func):
@wraps(func)
def inner(*args):
print func.__name__, ": starting"
start = time.time()
ret = func(*args)
end = time.time()
print func.__name__, ": {:.2f}".format(end - start)
return ret
return inner
url1 = 'http://host.com/500a.iso'
url2 = 'http://host.com/500b.iso'
url3 = 'http://host.com/500c.iso'
def do_nothing(*args):
pass
@profile
def urlretrive_test(url):
return urllib.urlretrieve(url)
@profile
def wget_no_bar_test(url):
return wget.download(url, out='/tmp/', bar=do_nothing)
@profile
def wget_with_bar_test(url):
return wget.download(url, out='/tmp/')
urlretrive_test(url1)
print '=============='
time.sleep(1)
wget_no_bar_test(url2)
print '=============='
time.sleep(1)
wget_with_bar_test(url3)
print '=============='
time.sleep(1)
urllib最速のようです
ソースコードは次のとおりです。
import urllib
sock = urllib.urlopen("http://diveintopython.org/")
htmlSource = sock.read()
sock.close()
print htmlSource
Webページからすべてのファイルをダウンロードしたかったのです。試してみwgetましたが失敗したので、Python ルートを選択し、このスレッドを見つけました。
それを読んだ後、 PabloGとStansoupgetの優れた回答を拡張し、いくつかの便利なオプションを追加して、小さなコマンド ライン アプリケーションを作成しました。
BeatifulSoupを使用してページのすべての URL を収集し、目的の拡張子を持つ URL をダウンロードします。最後に、複数のファイルを並行してダウンロードできます。
ここにあります：
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
from __future__ import (division, absolute_import, print_function, unicode_literals)
import sys, os, argparse
from bs4 import BeautifulSoup
# --- insert Stan's script here ---
# if sys.version_info >= (3,):
#...
#...
# def download_file(url, dest=None):
#...
#...
# --- new stuff ---
def collect_all_url(page_url, extensions):
"""
Recovers all links in page_url checking for all the desired extensions
"""
conn = urllib2.urlopen(page_url)
html = conn.read()
soup = BeautifulSoup(html, 'lxml')
links = soup.find_all('a')
results = []
for tag in links:
link = tag.get('href', None)
if link is not None:
for e in extensions:
if e in link:
# Fallback for badly defined links
# checks for missing scheme or netloc
if bool(urlparse.urlparse(link).scheme) and bool(urlparse.urlparse(link).netloc):
results.append(link)
else:
new_url=urlparse.urljoin(page_url,link)
results.append(new_url)
return results
if __name__ == "__main__": # Only run if this file is called directly
# Command line arguments
parser = argparse.ArgumentParser(
description='Download all files from a webpage.')
parser.add_argument(
'-u', '--url',
help='Page url to request')
parser.add_argument(
'-e', '--ext',
nargs='+',
help='Extension(s) to find')
parser.add_argument(
'-d', '--dest',
default=None,
help='Destination where to save the files')
parser.add_argument(
'-p', '--par',
action='store_true', default=False,
help="Turns on parallel download")
args = parser.parse_args()
# Recover files to download
all_links = collect_all_url(args.url, args.ext)
# Download
if not args.par:
for l in all_links:
try:
filename = download_file(l, args.dest)
print(l)
except Exception as e:
print("Error while downloading: {}".format(e))
else:
from multiprocessing.pool import ThreadPool
results = ThreadPool(10).imap_unordered(
lambda x: download_file(x, args.dest), all_links)
for p in results:
print(p)
その使用例は次のとおりです。
python3 soupget.py -p -e <list of extensions> -d <destination_folder> -u <target_webpage>
そして、実際の動作を見たい場合の実際の例:
python3 soupget.py -p -e .xlsx .pdf .csv -u https://healthdata.gov/dataset/chemicals-cosmetics