Вы должны знать количество бит для цветов, скажем, n бит для цвета, поэтому первый n бит представляет СИНИЙ, второй n бит представляет ЗЕЛЕНЫЙ, а последние n бит представляют КРАСНЫЙ на входе. Вам необходимо поменять эти битовые группы в правильном порядке, например:
output = (input << (2 * n)) + (input << n >> n) + (input >> (2 * n));
Чтобы использовать это решение, вам нужно узнать, сколько стоит n.