Мой инстинкт сказал бы мне, что, если B не обнуляем и B не малонаселен (действительно редок, всего 1% или ниже, а также содержит менее 10% среднего числа значений на индексный ключ A), такойчто проверка B в порядке убывания , а затем проверка на A = 123 для этих записей стоит того, у MySql не будет полосы индекса на B для этого запроса.
Скорее всего, этопросто использует A (если A достаточно избирателен), извлекает из таблицы записи, сортирует по убыванию B. и возвращает результат.
Это будет означать ваш первый случай, O (N + m).N прямо пропорционально размеру таблицы, который также статистически показывает, сколько записей в среднем будет удовлетворять A = {любой x}