Ошибка OOM (Out of memory) возникает, когда вашей модели требуется больше памяти, чем доступно. Перед тренировкой проверьте память вашего GPU, занята ли она каким-либо процессом. В nvidia GPU вы можете проверить память с помощью команды nvidia-smi
в cmd перед началом обучения.
Если память не занята каким-либо процессом или моделью до начала обучения, и вы все еще получаете ошибку OOM, тогда вы должны оптимизировать вашу модель, изменяя размер пакета или уменьшая размер данных или размер изображения или уменьшая обучаемые параметры модели (количество нейронов).