Реально, речь идет не об эффективности БД, а о задержке в сети и объеме данных, которые вы отправляете по проводам. Что касается MySQL, 1000 строк или 100 тыс. Строк будут молниеносными, так что это не проблема.
Однако, если в этих строках содержится значительный объем данных, и вы передаете все это клиенту через AJAX для фильтрации, задержка сети является вашим узким местом. Если вы передаете горстку байтов (скажем, 20) на строку и ваша таблица имеет длину около 1000 записей, это не большая проблема.
С другой стороны, если ваша таблица увеличивается (с неактивными записями), скажем, до 20 тысяч строк, теперь вы передаете 400 тысяч вместо 20 тысяч. Ваши пользователи заметят. Если записи будут больше, проблема будет увеличиваться по мере роста таблицы.
Вы действительно должны выполнить фильтрацию на стороне сервера. Пусть MySQL потратит 2 мс на фильтрацию таблицы, прежде чем потратить целую секунду или две, отправляя ее через Ajax.