Под первыми 6 битами вы подразумеваете 6 старших или младших битов?То есть, действительные биты [RRRRRR--][GGGGGG--][BBBBBB--] или [--RRRRRR][--GGGGGG][--BBBBBB]?
Если это первые (6 старших бит), вы можете просто подать на дисплей данные QImage::Format_RGB888.LSB будут просто игнорироваться.Если это позже, вы можете попробовать QImage::Format_RGB666, который использует младшие биты.