aws sagemaker given Архив данных модели слишком велик. Уменьшите размер архива данных модели

Question

Я использую aws sagemaker для развертывания модели, сгенерированные артефакты которой огромны. Сжатый размер составляет около 80 ГБ. Развертывание в sage maker на экземпляре ml.m5.12xlarge вызывает эту ошибку при развертывании на конечную точку The model data archive is too large. Please reduce the size of the model data archive or move to an instance type with more memory.

Я обнаружил, что aws подключает том EBS в зависимости от размера экземпляра (https://docs.aws.amazon.com/sagemaker/latest/dg/host-instance-storage.html ), и я не смог найти здесь ничего, кроме 30 ГБ. Следует ли мне go с мультимодельной конечной точкой здесь?

Answer 1

экземпляры "d" имеют больший объем (NVMe); вы можете попробовать выполнить развертывание, например, в ml.m5d.*. Но имейте в виду, что время загрузки и создания экземпляра может превышать ограничения службы (по моему опыту, от 15 до 20 минут), поэтому, если у вас не может быть конечной точки в этот период времени, вы все равно можете столкнуться с ошибкой.