иметь указатель на каждый набор, изначально указывающий на первую запись
Затем выберите следующий результат из набора, который предлагает самую низкую запись
Запишите эту запись в файл и увеличьте соответствующий указатель
У этого подхода в основном нет накладных расходов, а время равно O (n). (это Merge-Sort, кстати)
Редактировать
Чтобы уточнить: это слияние часть сортировки слиянием.