Хотя вы генерируете валидатор в своем тесте, вы им не пользуетесь.Поскольку ваши аннотации относятся к вызову метода, это немного сложно.Вы должны использовать отражение, чтобы получить метод и передать значения через массив.
@Test
public void generateList_lessThan3() throws NoSuchMethodException, SecurityException {
// when(fibonacci.generateStream(any())).thenReturn(Stream.of(BigInteger.ONE, BigInteger.ONE));
Method method = Fibonacci.class.getMethod("generateList", Integer.class);
// fibonacci.generateList(null);
Set<ConstraintViolation<Fibonacci>> violations = validator.forExecutables().validateParameters(fibonacci,
method, new Object[] {null});
Assertions.assertEquals(1, violations.size());
System.out.println(violations);
}