Если вы не делаете много действительно сложных вещей, я бы удивился, как вы заметили, как ваш процессор вращается в течение заметного периода времени, занимая всего 1000 строк. Вы можете выполнить серьезную работу на современном сервере за очень короткий промежуток времени, если данные уже находятся в памяти (что звучит так, как будто это в вашем случае).
Делаете ли вы такие вещи, как многократные итерации по элементам (т.е. вложенные циклы), когда использование словаря будет работать лучше? Внимательно посмотрите на то, что вы делаете, и подумайте, сколько раз на самом деле выполняется каждая строка кода.
Некоторый код, над которым я работал на прошлой неделе, должен был оценить ряд сложных правил безопасности для примерно 500 000 объектов. Выполнение кода завершения заняло около 3,5 минут - 2 минуты для загрузки из БД, 10 секунд для обработки и 1 минута 20 секунд для записи результатов в файл результатов. Если у вас есть все в памяти, если вы убедитесь, что не зацикливаете данные больше, чем нужно, все может быть на удивление быстро.