Я сейчас использую MYSQL,
и он становится бутылочным горлышком всей системы
Попробуйте индексацию Lucene: lucene.apache.org. Существует также очень хорошая реализация в PHP как часть Zend Framework.
Рассмотрим Solr (не путать с Solar Framework для PHP). Он основан на Lucene и предназначен для масштабирования, если это одна из ваших проблем.
Другие ссылки, связанные с Solr, которые могут оказаться полезными: