けやみぃアーカイブ

CV勉強中の大学生のアウトプットです

困ったエラー

【PyTorch】Mixed Precision (autocast) での an illegal memory access was encountered / 処理が遅い問題

PyTorchのバージョンは1.13.0です. PyTorchのMixed Precisionを試した時に起こった現象と解決した方法についてのメモです. 現在のPyTorchでMixed Precisionを行うには,以下のように with torch.autocast("cuda", torch.float16): で囲むことで勝手に半精…

PyTorchの異なるバージョン間での重み変換

なんやかんや複雑な事情で、学習時と推論時のPyTorchのバージョンが違った時の対処法です。特に学習時のバージョンの方が新しいと、推論する時に古いバージョンでは学習済みモデルを読み込んでくれないことがあるかと思います。まあ推論環境のPyTorchをアッ…