5

これが私のスレッド設定です。私のマシンでは、スレッドの最大数は 2047 です。

class Worker(Thread):
    """Thread executing tasks from a given tasks queue"""
    def __init__(self, tasks):
        Thread.__init__(self)
        self.tasks = tasks
        self.daemon = True
        self.start()

    def run(self):
        while True:
            func, args, kargs = self.tasks.get()
            try:
                func(*args, **kargs)
            except Exception, e:
                print e
            self.tasks.task_done()

class ThreadPool:
    """Pool of threads consuming tasks from a queue"""
    def __init__(self, num_threads):
        self.tasks = Queue(num_threads)
        for _ in range(num_threads):
            Worker(self.tasks)

    def add_task(self, func, *args, **kargs):
        """Add a task to the queue"""
        self.tasks.put((func, args, kargs))

    def wait_completion(self):
        """Wait for completion of all the tasks in the queue"""
        self.tasks.join()

モジュールの他のクラスでは、上から ThreadPool クラスを呼び出して、スレッドの新しいプールを作成します。次に、操作を実行します。以下に例を示します。

def upload_images(self):
    '''batch uploads images to s3 via multi-threading'''
    num_threads = min(500, len(pictures))
    pool = ThreadPool(num_threads)

    for p in pictures:
        pool.add_task(p.get_set_upload_img)

    pool.wait_completion()

私が抱えている問題は、これらのスレッドがガベージ コレクションされていないことです。

数回実行した後、ここに私のエラーがあります：

ファイル "/System/Library/Frameworks/Python.framework/Versions/2.7/lib/python2.7/threading.py"、495 行目、開始 _start_new_thread(self.__bootstrap, ()) の thread.error: 開始できません新しいスレッド

これは、2047 のスレッド制限に達したことを意味します。

何か案は？ありがとう。

4

2 に答える 2

1 
def run(self):
    while True:
        func, args, kargs = self.tasks.get()
        try:
            func(*args, **kargs)
        except Exception, e:
            print e
        self.tasks.task_done()

無限ループのように見えますが、それが原因でしょうか? すべてのスレッドが生きているため、GC で収集することはできません。

于 2013-09-04T10:05:23.153 に答える