1

私は、8GB RAM、Intel Core i7-4th gen を搭載した PC で鳥の画像を前処理するために、このプログラムをコンパイルしています。プロセッサですが、しばらく実行した後、毎回このエラーが表示されてスタックします:

File "bird.py", line 13, in <module>
    X,Y,X_test,Y_test = pickle.load(open("full_dataset.pkl", "rb"))
MemoryError

tensorflow の初心者であるため、CUDA (インストールに成功しました) が使用されているのか、CPU がまだ計算を実行しているだけなのかわかりません。

4

1 に答える 1

2

表示されているエラーは、GPU 計算 (または実際には TensorFlow 計算) が発行される前に発生します。これMemoryErrorは、データセットの unpickle がメモリ不足につながるか、データに何らかの破損があることを意味します。小さいデータセットを読み込んで、問題が解決しないかどうかを確認してください。

元の質問に関しては、TensorFlow の GPU バージョンと、互換性のあるバージョンの CUDA (つまり CUDA 8.0) および cuDNN をインストールした場合、TensorFlow は、構成する行列乗算と畳み込みを含め、多くの計算を GPU にオフロードします。トレーニングに費やす時間の大部分。

于 2016-12-28T16:57:19.793 に答える