Прежде всего, я надеюсь, что вы имеете в виду 24 битов значения, поскольку вам нужно будет включить неявный бит мантиссы в ваше умножение.
Во-вторых, если вы хотите, чтобы ваше умножение было правильно округлено, как в IEEE-754, вам (иногда) понадобится нижняя часть умножения, чтобы получить правильный округленный результат.
С другой стороны, если вам не нужно реализовывать правильное округление, и вы сдвигаете биты дроби влево перед умножением, вы сможете игнорировать младшее слово результата.