Как запустить код Python с поддержкой GPU

Question

Я создал службу колб для приема запросов с URL-адресами камер в качестве параметров для поиска объектов (стол, стул и т. Д.) В кадре камеры.Я написал код в колбе для принятия запросов POST.

@app.route('/rest/detectObjects', methods=['GET','POST'])
def detectObjects()
...
json_result = function_call_for_detecting_objects()
...
return

В этой функции она загружает модель tf для обнаружения объектов и возвращает результат.Флэш-сервер должен обрабатывать большое количество запросов одновременно.Поэтому мне нужно выполнить функцию с использованием графического процессора, так как время доступа к камере и обработки изображений для обнаружения объекта занимает много времени и загрузка ЦП.Есть 4 ГБ GeForce GTX 1050 Ti / PCIe / SSE2.Как я могу сделать свой скрипт Python, чтобы использовать для этого графический процессор?

Answer 1

Установка tenorflow gpu заставит скрипт автоматически определять gpu.если он не обнаруживает GPU, проверьте версии драйверов (Cuda и cudnn).Если не происходит несовпадение версий или ошибок, сценарий может идентифицировать присутствующий gpu и будет запускаться с использованием gpu.

Answer 2

Чтобы использовать графический процессор в python, вы можете использовать одну из доступных библиотек: https://www.researchgate.net/post/How_do_I_run_a_python_code_in_the_GPU

CUDA может быть правильным для графического процессора NVIDIA.Руководство по его использованию с дистрибутивом Anaconda Python см. https://weeraman.com/put-that-gpu-to-good-use-with-python-e5a437168c01