Для меня неясно, хотите ли вы преобразовать свое двойное RGB-изображение в (1) целочисленное RGB-изображение или (2) монохромное изображение. Если первое, проще всего сделать это
y = uint8(x*intmax('uint8')); %# convert to 24-bit color
Это предполагает, что двойная матрица масштабируется между 0 и 1. Если нет, вам может потребоваться изменить масштаб, разделив x
на его максимальное значение.
Возможно, есть более простые способы сделать это на панели инструментов обработки изображений.