Обработчик вывода Sagemaker по умолчанию инициализируется с помощью преобразователя None - PullRequest
Новая
       26

Обработчик вывода Sagemaker по умолчанию инициализируется с помощью преобразователя None

1 голос
/ 25 апреля 2020

Выполнение логического вывода с обслуживающим контейнером по умолчанию m xnet. Нет обновлений для скрипта точки входа. Сбой вывода при попытке инициализировать преобразователь в сервисном обработчике https://github.com/aws/sagemaker-mxnet-serving-container/blob/44fe1e4cbbde32a0126426fedf176351ab3dfc20/src/sagemaker_mxnet_serving_container/handler_service.py#L46

Описание: преобразована видеомодель глюонного видео в формат Symboli c и экспортирована в каталог моделей с параметрами, символами и формами файл. Развернул эту конечную точку в SM, а затем запустил логический вывод. См. Эту ошибку: 

W-9000-model-stdout com.amazonaws.ml.mms.wlm.WorkerLifeCycle -   File "/usr/local/lib/python3.6/site-packages/sagemaker_inference/default_handler_service.py", line 50, in handle
W-9000-model-stdout com.amazonaws.ml.mms.wlm.WorkerLifeCycle -     return self._service.transform(data, context)
W-9000-model-stdout com.amazonaws.ml.mms.wlm.WorkerLifeCycle - AttributeError: 'NoneType' object has no attribute 'transform'

Код: 

model_name = 'i3d_resnet50_v1_kinetics400'

net = get_model(model_name, nclass=400, pretrained=True)

print('%s model is successfully loaded.' % model_name)

net.hybridize()

'#Predict output for 1 video clip to initialize the model before export'

x = nd.array(clip_input)

y = net.forward(x)

print(y) #this works fine

net.export(model_name)

См .: https://medium.com/@julsimon / быстрое преобразование глюонных моделей в символику c - format-9513e5dd1d73 

'#then tar the model directory with params,shape and symbol'

sagemaker_model = MXNetModel(model_data = 's3://' + sagemaker_session.default_bucket() + '/model/model.tar.gz',
                                  role = role,framework_version='1.6.0',py_version='py3',entry_point='dummy.py')

predictor = sagemaker_model.deploy(initial_instance_count=1,
                                          instance_type='ml.m4.xlarge')

Вызов вывода: тип содержимого = npy

...