Полагаю, в обоих случаях либо неизвестный фильтр, либо неизвестный тип сортировки, API должен отвечать одинаково. Такой ответ обычно находится в Client Errors (400-499)
категориях.
И причина в том, что API должны иметь строгую и определенную спецификацию. И такие спецификации явно упоминают допустимые типы фильтров и допустимые типы сортировки. Если любой запрос, который не удовлетворяет спецификации, должен быть приведен к 400 * диапазонам ошибок. Это то, что я считаю предпочтительным ответом, поэтому клиент, делающий запрос, также знает, что он нарушает спецификацию API.
По своему опыту я также видел много спецификаций, в которых упоминается игнорирование неизвестных параметров из запроса. И в этом случае вы получите ответ по умолчанию. Если ваш API документ, что в вашей спецификации ясно, то это правильный ответ.