Вам не нужны два индекса. Вы можете использовать только один IndexWriter в приложении, и при каждом новом поиске создайте IndexSearch следующим образом
IndexWriter indexWriter;
public List search(){
IndexReader indexReader = IndexReader.open(indexWriter, false);
IndexSearcher indexSearcher = new IndexSearcher(indexReader);
//do search and return answer
}
В этом случае производительность будет довольно хорошей. Я использовал Lucene 3.5.