Как использовать развернутую Deep Neaural Network в веб-службе Azure, которая поддерживает обслуживание TensorFLow через API остальных?

Question

Я пытаюсь запустить пакетные запросы в веб-службе Azure, в которой есть модель обнаружения объектов.Я пытаюсь добраться до него через TensorFlow Serving Rest APi.В соответствии с документами, которые он поддерживает:

Вы можете адаптировать клиентский код в соответствии с вашими потребностями.Существует также пример клиента C #.

Служба предоставляет API, совместимый с TensorFlow Serving.Здесь есть инструкции для загрузки примера клиента (https://www.tensorflow.org/tfx/serving/setup).

Я использую scoring_uri веб-службы в качестве IP-адреса.

Я могу связаться с сервисом через запросы grpc.

Я всегда получаю 404. Не найдено. Есть идеи, как это сделать через остальные API?

import requests

def send_prediction_request_batch_rest(images_path, ip: str, num_of_items_in_batch: int, verbose=False):
    path = []

    for i in range(0, num_of_items_in_batch):
        path.append(images_path + "/" + str(i) + ".jpg")

    print(path)

    image_bytes = get_bytes_of_files(path)
    input_images_encoded = encode_multiple_byte_strings_to_b64_utf8(image_bytes)

    instances = []

    for input_image_encoded in input_images_encoded:
        input_value = {"b64": input_image_encoded}
        instances.append(input_value)

    json_input = json.dumps({"instances": instances})

    headers = { 'Content-Type':'application/json' }
    response = requests.post(ip, data=json_input, headers = headers,timeout=20.0, allow_redirects=False)

    print(response.status_code)