Vgg19 - намного большая сеть, чем alexnet, если я правильно помню, примерно в 12 раз. Я подозреваю, что alexnet без проблем помещается в память, но не vgg19. Если во время обучения у MATLAB не хватает памяти, он может начать заменять память жестким диском, и это становится мучительно медленным (вместо немедленного сбоя с сообщением об отсутствии памяти, как это делает Tensorflow). Я предлагаю уменьшить размер мини-пакета или опробовать другие сети.