Tensorflow, обслуживающий GPU с использованием REST API и SSL-сертификата

Question

Я пытаюсь установить TensorFlow-gpu с REST API в контейнере Centos 7 Docker.Но я не могу найти точную процедуру для этого.Нужно ли устанавливать следующие зависимости?

• Я установил cuda 9.0
• cdDNN 7.4
• NCCL 2.x

Answer 1

Вот то, что я использую для создания образа docker tenorsflow-Обслуживание-время выполнения.

FROM nvidia/cuda:9.0-cudnn7-runtime-centos7

ARG TF_VERSION=1.9.0

RUN yum install -y  \
    yum-plugin-ovl \
    libgomp \
    ca-certificates \
    zip \
    unzip \
    curl \
        && \
    yum clean all

WORKDIR /usr/
RUN curl -sSL -o /usr/nccl_2.2.13-1-cuda9.0_x86_64.tgz http://some-of-my-net-disk/tensorflow-serving/lib/nccl_2.2.13-1-cuda9.0_x86_64.tgz && \    # Change your way to get nccl library here
    tar -xvf nccl_2.2.13-1-cuda9.0_x86_64.tgz &&\
    rm -f nccl_2.2.13-1-cuda9.0_x86_64.tgz

ENV LD_LIBRARY_PATH /usr/nccl_2.2.13-1+cuda9.0_x86_64/lib/:${LD_LIBRARY_PATH}

# Change your way to get tensorflow_model_server here
WORKDIR /serving
RUN curl -sSL -o /usr/local/bin/tensorflow_model_server http://some-of-my-net-disk/tensorflow-serving/bin/tf-serving-${TF_VERSION}/tensorflow_model_server_gpu-centos &&\
    chmod u+x /usr/local/bin/tensorflow_model_server

Для меня это работало нормально.Надеюсь, это поможет.

Answer 2

Я еще не начал создавать службу тензорного потока с использованием графического процессора.Я нахожусь в середине этапа исследования ~ в этом процессе в каждой статье, показывающей, что касается установки Ubuntu, и пытаюсь установить. В centos 7 .. поэтому у меня нет файла Docker ..

Надеюсь, что этоможет помочь вам и мне найти решение.