Абсолютно, вы должны решить это путем тестирования. Как отмечает Дмитрий, здесь задействовано много факторов. На самом деле, CPU почти наверняка не является узким местом в операциях на базе ввода-вывода и сетевых операций. Вероятно, вы обнаружите, что вещи выровнены и начнут ухудшаться, прежде чем у вас будет слишком много потоков, но если вы хотите минимизировать тестирование, используйте график из нескольких результатов, чтобы интерполировать правильную оценку идеального значения.
Чтобы лучше понять, что занимает все время, используйте инструменты метрики для измерения использования ваших ресурсов - в этом случае это должно включать трафик сетевого интерфейса и длину очереди диска.