QImage::Format_Indexed8
означает 8-байтовый ИНДЕКС для таблицы цветов, поэтому заполнение его 100 означает «использовать индекс 100 таблицы цветов».
Если требования к выравниванию соблюдены, необходимо также выполнить
image.setColor(100, qRgb(100, 100, 100)); // set color index 100 to a "100" gray
Если вы на самом деле хотите только заполнить свой QImage серым цветом «100», вы также можете сделать
QImage image(50, 100, QImage::Format_Indexed8);
image.setColorCount(1);
image.setColor(0, qRgb(100, 100, 100)); // set color index 0 to a "100" gray
image.fill(0);