RethinkDB データベースから取得しているドキュメントには、タイムスタンプが含まれています ( type の特別な値をdatetime.datetime
持つ Python オブジェクトとして表されます) 。tzinfo
rethinkdb.ast.RqlTzinfo
それを RQ タスク キューにプッシュすると、タスクがタイムスタンプを unpickle しようとすると、反対側で UnpickleError が発生します。
feeds = r.table('feeds') \
.filter(lambda feed: feed['last_fetched'] \
< (r.now() - config.FEED_REFRESH_INTERVAL)) \
.pluck('id', 'feed_url', 'last_fetched').run(db)
q = Queue('feed_fetcher', connection=Redis())
for feed in feeds:
print(feed['last_fetched']) # 2014-09-08 18:35:22.735000+00:00
result = q.enqueue(fetch_feed, feed)
RQ ワーカーからの出力:
18:48:34 *** Listening on feed_fetcher...
19:05:01 feed_fetcher: app.feedupdater.tasks.fetch_feed({u'last_fetched': datetime.datetime(2014, 9, 8, 18, 35, 22, 735000, tzinfo=<rethinkdb.ast.RqlTzinfo object at 0x7fdf508ed410>), u'id': u'ccd57063-a61a-4255-af67-94c244ff6bbb', u'feed_url': u'http://feeds.feedburner.com/hacker-news-feed-200?format=xml'}) (0002de8d-978c-4aeb-944e-2559458d114c)
Traceback (most recent call last):
File "/usr/local/bin/rqworker", line 11, in <module>
sys.exit(main())
File "/usr/local/lib/python2.7/dist-packages/rq/scripts/rqworker.py", line 100, in main
w.work(burst=args.burst)
File "/usr/local/lib/python2.7/dist-packages/rq/worker.py", line 358, in work
self.execute_job(job)
File "/usr/local/lib/python2.7/dist-packages/rq/worker.py", line 422, in execute_job
self.main_work_horse(job)
File "/usr/local/lib/python2.7/dist-packages/rq/worker.py", line 457, in main_work_horse
success = self.perform_job(job)
File "/usr/local/lib/python2.7/dist-packages/rq/worker.py", line 473, in perform_job
job.func_name,
File "/usr/local/lib/python2.7/dist-packages/rq/job.py", line 225, in func_name
self._unpickle_data()
File "/usr/local/lib/python2.7/dist-packages/rq/job.py", line 193, in _unpickle_data
self._func_name, self._instance, self._args, self._kwargs = unpickle(self.data)
File "/usr/local/lib/python2.7/dist-packages/rq/job.py", line 50, in unpickle
raise UnpickleError('Could not unpickle.', pickled_string, e)
rq.exceptions.UnpickleError: (u'Could not unpickle.', TypeError('__init__() takes exactly 2 arguments (1 given)', <class 'rethinkdb.ast.RqlTzinfo'>, ()))
キューにプッシュする前にタイムスタンプをエポック時間に置き換えることで問題を回避することができましたが、これは一時的な解決策であり、タイムゾーンなどを処理する必要があることを考えると、状況が少し複雑になります。datetime
オブジェクトをDBに戻す前に、エポック時間をオブジェクトに戻します。
問題はどこにあるのでしょうか (RethinkDB のRqlTzinfo
オブジェクトか、RQ の unpickling 実装か)、これは正当なバグですか、それとも単に実装が悪いのでしょうか?