Я не узнал, почему он не работал с ColumnPrefixFilter, хотя у меня была альтернатива сделать что-то подобное.
SingleColumnValueFilter filter = new SingleColumnValueFilter(COLUMN_FAMILY_NAME, QUALIFIER_NAME, CompareOperator.EQUAL,
new BinaryPrefixComparator("IND".getBytes()));
Это работает как шарм. Хотя я подожду, если кто-нибудь сможет объяснить, почему он не работает с ColumnPrefixFilter.