Похоже, у вас будет много индексов во втором сценарии, и если вы хотите искать их одновременно, Lucene придется держать много файлов открытыми, так что вы можете легко достичь предела своей ОС для количество открытых файлов. Если вы решите открывать / закрывать их по требованию, вам может не пригодиться кэширование, и ваш поиск может быть медленным из-за холодных индексов (или вы предварительно их прогреваете, но опять же у вас может быть много дополнительной обработки). Я бы выбрал первый подход: Lucene может обрабатывать 1 млн документов в одном индексе.