После долгих раскопок мне пришлось сделать две вещи, чтобы заставить это работать.
Сначала добавьте поддержку sssvlv на мой сервер OpenLDAP
Это ldif
dn: cn=module{0}, cn=config
changetype: modify
add: olcModuleLoad
olcModuleLoad: sssvlv.la
dn: olcOverlay=sssvlv,olcDatabase={1}hdb,cn=config
changetype: add
objectClass: olcSssVlvConfig
olcSssVlvMax: 10
olcSssVlvMaxKeys: 5
Затем я должен был указать идентификатор правила соответствия для ключа сортировки
SortKey sk = new SortKey( "sn", SchemaConstants.NUMERIC_STRING_ORDERING_MATCH_MR_OID);
Надеюсь, это кому-нибудь поможет!