Файл вывода, который входит в точку входа PyTorchModel для развертывания, не влияет на выходные данные предсказателя.

Question

В настоящее время я запускаю код на AWS Sagemaker, пытаясь предсказать данные, используя уже обученную модель, доступную по MODEL_URL.

В приведенном ниже коде inference.py как entry_point не похоже, влияют на результат обученной модели прогнозирования. Любые изменения в inference.py не изменяют вывод (вывод всегда правильный). Есть ли что-то, что я не понимаю в том, как работает модель? И как я могу включить inference.py в модель прогнозирования в качестве точки входа?

role = sagemaker.get_execution_role()

model = PyTorchModel(model_data = MODEL_URL, 
                            role = role,
                            framework_version = '0.4.0',
                            entry_point = '/inference.py',
                            source_dir = SOURCE_DIR)

predictor = model.deploy(instance_type = 'ml.c5.xlarge', 
                                   initial_instance_count = 1,
                                   endpoint_name = RT_ENDPOINT_NAME)

result = predictor.predict(someData)

Answer 1

Точка входа (inference.py) - это файл кода, который определяет способ загрузки модели, предварительную обработку ввода, лог c прогнозирования и постобработку вывода.

Любые изменения в inference.py не изменяет вывод

Что вы меняете в inference.py, что вы ожидаете изменить result из predictor.predict? Если базовый model_data не меняется, сценарий точки входа будет использовать ту же модель. Вы вносите какие-либо изменения в загрузку модели в model_fn или в обработку прогнозов через input_fn, predict_fn или output_fn?