Параллелизм в Spring Boot - PullRequest
       35

Параллелизм в Spring Boot

1 голос
/ 12 марта 2019

У меня есть приложение весенней загрузки со встроенным причалом, и его конфигурации: jetty's minThread: 50 jetty's maxThread: 500 jetty's maxQueueSize: 25000 (я изменил очередь по умолчанию на LinkedBlockingQueue) Я не изменил acceptors и selectors (так как яне верю в жесткое кодирование значения)

При указанной выше конфигурации я получаю результаты теста jmeter ниже:

  1. Одновременных пользователей: 60

резюме = 183571 в 00:01:54 = 1611,9 / с. Ср .: 36 Мин .: 3 Макс: 1062 Ошибка: 0 (0,00%)

Одновременно работающих пользователей: 75

Сводка = 496619 в 00:05:00 = 1654,6 / с. Ср .: 45 Мин: 3 Макс: 1169 Ошибка: 0 (0,00%)

Если я увеличу количество одновременных пользователей, я не вижу никаких улучшений.Я хочу увеличить параллелизм.Как этого добиться?

=========================================================================== Обновление от 29 марта-2019

Я тратил больше усилий наулучшение бизнес логики.Все еще нет большого улучшения.Тогда я решил разработать один привет-весенний загрузочный проект.т. е.

пружинный башмак (1.5.9)

причал 9.4.15

контроллер покоя с конечной точкой

код ниже:

@GetMapping
public String index() {
    return "Greetings from Spring Boot!";
}

Затем я попытался выполнить сравнительный анализ, используя apachebench

75 одновременных пользователей:

ab -t 120 -n 1000000 -c 75 http://10.93.243.87:9000/home/
Server Software:
Server Hostname:        10.93.243.87
Server Port:            9000

Document Path:          /home/
Document Length:        27 bytes

Concurrency Level:      75
Time taken for tests:   37.184 seconds
Complete requests:      1000000
Failed requests:        0
Write errors:           0
Total transferred:      143000000 bytes
HTML transferred:       27000000 bytes
Requests per second:    26893.28 [#/sec] (mean)
Time per request:       2.789 [ms] (mean)
Time per request:       0.037 [ms] (mean, across all concurrent requests)
Transfer rate:          3755.61 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    1  23.5      0    3006
Processing:     0    2   7.8      1     404
Waiting:        0    2   7.8      1     404
Total:          0    3  24.9      2    3007

100 одновременных пользователей:

ab -t 120 -n 1000000 -c 100 http://10.93.243.87:9000/home/
Server Software:
Server Hostname:        10.93.243.87
Server Port:            9000

Document Path:          /home/
Document Length:        27 bytes

Concurrency Level:      100
Time taken for tests:   36.708 seconds
Complete requests:      1000000
Failed requests:        0
Write errors:           0
Total transferred:      143000000 bytes
HTML transferred:       27000000 bytes
Requests per second:    27241.77 [#/sec] (mean)
Time per request:       3.671 [ms] (mean)
Time per request:       0.037 [ms] (mean, across all concurrent requests)
Transfer rate:          3804.27 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    2  35.7      1    3007
Processing:     0    2   9.4      1     405
Waiting:        0    2   9.4      1     405
Total:          0    4  37.0      2    3009

500 одновременных пользователей:

ab -t 120 -n 1000000 -c 500 http://10.93.243.87:9000/home/
Server Software:
Server Hostname:        10.93.243.87
Server Port:            9000

Document Path:          /home/
Document Length:        27 bytes

Concurrency Level:      500
Time taken for tests:   36.222 seconds
Complete requests:      1000000
Failed requests:        0
Write errors:           0
Total transferred:      143000000 bytes
HTML transferred:       27000000 bytes
Requests per second:    27607.83 [#/sec] (mean)
Time per request:       18.111 [ms] (mean)
Time per request:       0.036 [ms] (mean, across all concurrent requests)
Transfer rate:          3855.39 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0   14 126.2      1    7015
Processing:     0    4  22.3      1     811
Waiting:        0    3  22.3      1     810
Total:          0   18 129.2      2    7018

1000 одновременных пользователей:

ab -t 120 -n 1000000 -c 1000 http://10.93.243.87:9000/home/
Server Software:
Server Hostname:        10.93.243.87
Server Port:            9000

Document Path:          /home/
Document Length:        27 bytes

Concurrency Level:      1000
Time taken for tests:   36.534 seconds
Complete requests:      1000000
Failed requests:        0
Write errors:           0
Total transferred:      143000000 bytes
HTML transferred:       27000000 bytes
Requests per second:    27372.09 [#/sec] (mean)
Time per request:       36.534 [ms] (mean)
Time per request:       0.037 [ms] (mean, across all concurrent requests)
Transfer rate:          3822.47 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0   30 190.8      1    7015
Processing:     0    6  31.4      2    1613
Waiting:        0    5  31.4      1    1613
Total:          0   36 195.5      2    7018

Из вышеописанного тестового прогона я достиг ~ 27K в секунду с 75 пользователями сам, но, похоже, число пользователей увеличиваетсялатентностьКроме того, мы можем четко отметить, что время соединения увеличивается.

У меня есть требование, чтобы мое приложение поддерживало одновременную работу пользователей 40 КБ (предположим, что все используют собственные отдельные браузеры), и запрос должен быть завершен в течение 250 миллисекунд.

Пожалуйста, помогите мне в этом

1 Ответ

1 голос
/ 12 марта 2019

Вы можете попробовать увеличить или уменьшить количество потоков Jetty, но производительность приложения будет зависеть от логики приложения.Если текущим узким местом является запрос к базе данных, вы вряд ли увидите какие-либо улучшения при настройке уровня HTTP, особенно при тестировании по локальной сети.

Найдите узкое место в вашем приложении, попытайтесь его улучшить, а затем повторите измерение, чтобы подтвердитьлучше.Повторите эти три шага до достижения желаемой производительности.Не настраивайте производительность вслепую, это пустая трата времени.

...