問題タブ [dill]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
46 参照

python - ClassB で ClassA インスタンス変数を変更する Python

各クラス変数を一度に 1 つずつダンプしてロードするのではなく、dill を介してクラス インスタンス全体をロードしようとしています。

誰でもこれを行う方法を教えてもらえますか:

したがって、出力は次のようになります。

0 投票する
1 に答える
437 参照

python - マルチプロセッシングで二次元配列を返す

私のメインコードの例である次のコードではpathos.multiprocessing、ループの反復速度を上げるために使用しようとしました。マルチプロセッシングで実装された各反復の出力は2-D 配列です。クラスメソッドで使用したかったので、pathos.multiprocessing代わりに使用しました。のメソッドを使用して出力をリストに収集しましたが、空のリストが返されます。失敗する理由がわからないmultiprocessingapipepathos.multiprocessing

なにか提案を?

0 投票する
2 に答える
3383 参照

python - Python マルチプロセッシング: AttributeError: 'Test' オブジェクトに属性 'get_type' がありません

短い短いバージョン:

インスタンス メソッドを使用するコードの並列化に問題があります。

より長いバージョン:

この python コードでは、次のエラーが発生します。

これは、私が抱えている実際の問題の単純化されたバージョンです。

ここでの推奨事項により、pathos.multiprocessing を使用しています: Multiprocessing: Pool and pickle Error -- Pickling Error: Can't pickle <type 'instancemethod'>: attribute lookup __builtin__.instancemethod failed

pathos.multiprocessing を使用する前は、次のエラーが発生していました。

0 投票する
1 に答える
2433 参照

python - sys.pathが異なる場合、dill pythonモジュールはモジュールのインポートを処理しますか?

dill を評価していますが、このシナリオが処理されるかどうかを知りたいです。Python プロセスでモジュールを正常にインポートするケースがあります。dill を使用してシリアライズし、そのモジュールを含まない別の sys.path を持つ別のプロセスにそのモジュールをロードできますか? 現在、インポートに失敗していますが、何か間違っている可能性があります。

例を次に示します。foo.py モジュールのパスが sys.path にあるこのスクリプトを実行します。

ここで、PYTHONPATH に foo.py のディレクトリがない場所でこのスクリプトを実行します。

次のスタック トレースで失敗します。

では、2 つのプロセス間で同じ python パスが必要な場合、python モジュールをシリアル化する意味は何ですか? または、言い換えれば、「import foo」呼び出しを行うよりも、ディル経由で foo をロードする利点はありますか?

0 投票する
1 に答える
1385 参照

python - dill で SWIG 拡張機能をシリアライズする

最近、「私たちの C++ ライブラリをクラウドで動作させる」よう依頼されました。基本的に、lib はコンピューター集約型 (価格の計算) であるため、理にかなっています。MRJob で MapReduce を使用することを念頭に置いて、Python バージョンを作成するための SWIG インターフェイスを作成しました。ファイル内のオブジェクトをシリアル化し、マッパーを使用して逆シリアル化し、価格を計算したいと考えていました。

例えば:

しかし、ディルが SWIG 拡張機能を処理できないように見えるため、今は行き止まりになっています。

これを適切に機能させる方法はありますか?

0 投票する
1 に答える
1874 参照

python - dill が参照によって外部クラスをダンプするのはなぜですか?

Foo以下の例では、独自のモジュール内にクラスを配置しましたfoo

外部クラスがrefによってダンプされるのはなぜですか? インスタンスffはソース コードとともにダンプされていません。

Python 3.4.3 と dill-0.2.4 を使用しています。

Foo.yさて、上記のコードは実際には間違っています (ではなく であるべきですy)。コードを修正すると、fインスタンスのダンプ中に例外が発生します。

0 投票する
0 に答える
266 参照

python - シリアル化されたオブジェクトをロードするときにディルメモリエラーが発生しました。修正方法は?

シリアル化されたオブジェクト ファイルをロードすると、dill/pickle メモリ エラーが発生します。何が起こっているのかよくわかりませんし、それを修正する方法もわかりません。私が電話するとき:

このコードは、シリアル化されたオブジェクトをロードし、オブジェクト内のデータを使用して分類子をトレーニングする train_batch_iterator 関数までトレースします。これはコードです:

エラーは次のとおりです。

何が問題なのかわかりません。エラーは行にあるようでminibatch_train = dill.load(stream)、シリアライズされたデータファイルが大きすぎるということしか考えられませんが、ファイルは正確に 1161 MB であり、メモリエラーを引き起こすほど大きくないようです。何がうまくいかないのか誰か知っていますか?