/[Python]GPUのメモリ使用量を計測する2022年1月8日土曜日Python本記事では、PythonからGPUのメモリ使用量を取得する方法を紹介します。GPUのメモリ使用量を計測します。Documentationをご参照ください。結論は下記関数でGPUのメモリ使用量を取得可能です。gpu_properties使用例は以下の通りです。MiBget_gpu_propertiesでGPUのProperty情報を取得し、property情報はdict型でreturnされます。GPUメモリの使用量は"memory.used"に格納されています。--help-query-gpuで参照可能です。--query-gpuの詳細については公式ドキュメントをご参照ください。GPUメモリ使用量を定期的に取得する上記get_gpu_propertiesを定期実行することにより、定期的にGPUメモリ使用量を測定できます。下記のコード例は厳密な定期実行ではない点ご注意ください。概ねintervalで設定した周期で実行します。機能面の要件以外を意味する非機能要件はユーザービリティなどに影響します。本記事で紹介した、メモリ使用量は開発環境と本番環境における実行速度の違いなどに影響を及ぼすため開発段階であらかじめ把握しておくことをお勧めします。開発環境では潤沢なGPUメモリを持つマシン上で動作させており、本番環境は運用コストを理由にGPUメモリを削減している場合を想定します。この時、本番環境では、GPUメモリの解放待ちが発生し、想定より実行速度が遅くなる場合があります。最悪の場合、OutOfMemoryが発生し、処理継続が困難な可能性もあります。このため、事前に非機能要件を定義しており、それぞれの数値を把握しておくことは開発後期での手戻りを防ぐ一助となります。*このブログについてホームサイトマップTeDokologyTeDokology。