Согласно встроенной справке Matlab рассчитывает MOD (x, y) как:
MOD (x, y) = x - пол (x./y). * Y
где функция floor округляется до минус бесконечности (то есть убирает десятичную часть).
Время выполнения будет постоянным, пока вы не вычислите mod (X, y), где X - вектор, в этом случаеон будет линейно масштабироваться с количеством элементов в векторе