Я написал код для загрузки модели pytorch в C ++ с помощью API-интерфейса PyTorch C ++ Frontend.Я хочу дать пакет кадров для предварительно обученной модели в C ++, используя module->forward(batch_frames).Но он может пересылать через один вход.Как я могу дать пакет данных для модели?
Часть кода, которую я хочу дать пакету, показана ниже:
cv::Mat frame;
vector<torch::jit::IValue> frame_batch;
// do some pre-processes on each frame and then add it to the frame_batch
//forward through the batch frames
torch::Tensor output = module->forward(frame_batch).toTensor();