Итак, после большой работы за последние несколько дней я наконец нашел способ.
Сначала я хотел просто использовать Python, чтобы выполнить всю работу с Tensorflow, а затем предоставить результаты через службу отдыха. Однако оказалось, что количество моделей, предоставляемых Tensorflow Hub, очень мало. Это было проблемой для меня, потому что мне приходилось пробовать разные модели и сравнивать их.
Таким образом, я перешел на использование моделей с https://github.com/tensorflow/models. Существует несколько руководств по экспорту данных в файлы .pb. Эти файлы затем могут быть загружены в Go с помощью gocv.
Требуется много работы для конвертации файлов, но в конце я думаю, что это лучший способ использовать модели Tensorflow на ходу.