Предполагая, что вы знаете, сколько значений вы сохранили в файле, вы можете сделать что-то вроде этого, чтобы прочитать данные в массив.
fid = fopen('data.bin','rb')
A = fread(fid, count, 'int16')
Чтобы записать данные в файл, сделайте это:
fid = fopen('data.bin','w')
count = fwrite(fid, A, 'int16')
Функция fwrite возвращает количество элементов (не байт), записанных в файл.
Что касается настройки производительности, вы можете читать данные порциями, чтобы использовать только то, что вам нужно для обработки. Это то же самое на любом языке, и нет способа ускорить его, что характерно для Matlab.