Это не идеально, но я бы сделал:
A=rand(128);
Apatch=im2col(A,[64 64],'distinct');
Apacth=gpuArray(Apatch);
В противном случае вы можете попробовать (я не уверен, что это ускоряется):
A=rand(128);
A=gpuArray(A);
Apatch=im2col(A,[64 64],'distinct');
Apacth=gpuArray(Apatch);