Простое решение с использованием diff и mean
aveDiff = mean(diff(myVector)) %#(1)
Пример
>> v=[1 5 6]
v =
1 5 6
>> mean(diff(v))
ans =
2.5000
Это работает, но ответ @Jonas - правильное решение.
Редактировать
Из @gnovice, @ vivid-colors и @sevenless комментариев.
Среднее абсолютное значение разности можно найти, вставив abs в (1)
aveDiff = mean(abs(diff(myVector))) %#(2)