floor(max(max(D3))*100)/100
, если вы хотите избежать отображения дополнительных нулей в конце, используйте fprintf:
fprintf('%4.2f\n',floor(max(max(D3))*100)/100)
, если вы хотите изменить значение в матрице, чтобы отразить это изменение в точности:
[val,loc] = max(D3(:));
[r,c] = ind2sub(size(D3),loc);
D3(r,c) = floor(val*100)/100;