Первое, на что вам нужно обратить внимание - это поисковый компонент по умолчанию и посмотреть, есть ли в модели способ учета различных переменных запроса, в частности тех, которые вы хотите использовать для фильтрации своих результатов. Например, если вы хотите ограничить количество поисковых запросов парой категорий, вам нужно посмотреть, сможете ли вы передать некоторые идентификаторы категорий в модель, и она включит их в предложение where при создании запроса SQL. Если это так, то все, что вам нужно сделать, это создать специальную форму поиска, включающую фильтры, которые вы хотели бы использовать.
Если это не так, то становится немного сложнее. Я настоятельно рекомендую не взламывать ядро, поэтому вам нужно будет скопировать поисковый компонент, а затем переименовать его и установить как новый компонент после внесения необходимых изменений в модель.
Было бы также целесообразно проверить, написал ли кто-нибудь еще расширение, которое выполнит ту же задачу. Я бы придерживался расширений, которые сделали это в JED - http://extensions.joomla.org/