та же программа Spark не смогла полностью использовать ресурсы процессора на другом компьютере - PullRequest
0 голосов
/ 20 октября 2019

У меня есть 2 машины, с одним и тем же процессором, 4 узлами numa и 24 * 4 = 96 ядер. Я использую spark local[96] для запуска своей программы, используя htop, чтобы увидеть загрузку процессора, на первой машине,96 ядер используются почти на 100%

На втором я использую точно такой же код (искровой код упакован в образ докера, и я использую то же изображение), но htop мог видеть, что все 96 ядер имеют толькоЗагрузка процессора от 25% до 33%.

Я использую для проверки lscpu, за исключением параметра CPU MHz (первый - около 3000, а второй - 999,963), остальные все одинаковые (max MHz 3800, min MHz 1000, оба hyper-thread отключены).

Почему моя программа Spark не может полностью использовать процессор на втором компьютере?

1 Ответ

0 голосов
/ 20 октября 2019

Проверьте BIOS на втором. По какой-то причине не используется вся скорость процессора, возможно, включен режим энергосбережения или авто.

...