PytorchをGPUで回してたらメモリ溢れた

GPU「out of memory」

GPUでモデルに画像を食わせて処理していたら、

RuntimeError: cuda runtime error (2) : out of memory at /pytorch/aten/src/THC/generic/THCStorage.cu:58

っていうエラーが出てしまいました。

原因

ただ単にメモリが溢れているだけなので、一度に処理するデータの量を減らせばよいです。 自分の場合はbatch sizeを128に設定していたのですが、その値を減らしたら想定していたイテレーションを回すことができました。