Нет, вы не можете разрезать байт. Байт состоит из 8 бит, предполагая, что байт является октетом, как во всех современных системах. Конечно, есть способ представить 3 бита, например, используя специальную структуру данных или просто добавив целое число, которое определяет количество используемых битов.
Однако, если вы не используетеВ случае, когда требуется реализация, ориентированная на биты, вы можете игнорировать тестовые векторы, где биты не кратны восьми. Большинство библиотек ориентированы на байты, даже если алгоритм указан в битах. Вы можете создать бит, ориентированный на спецификацию, поэтому тестовый вектор должен быть там, если он необходим.
К сожалению, я не нашел ни одного утверждения из NIST по этому поводу, дажеесли это совершенно очевидно, например, из библиотек, совместимых с FIPS.