Количество параллельных запросов в Spring против количества потоков http-nio-8080-exe c

Question

Я хотел протестировать параллельные запросы в моем контроллере. Я знаю, что по умолчанию Spring может обрабатывать 200 параллельных запросов, и мы можем изменить его, изменив это свойство server.tomcat.max-threads

. Я немного поиграл с этим значением и обнаружил интересную вещь: когда я установил его на 3, когда я Запустите приложение. Я вижу, что создаются 3 темы: http-nio-8080-exec-1,2,3 Когда я установил 5, я вижу 5 таких потоков. И он продолжается до 10 и останавливается на 10. Когда я устанавливаю его на 15, все еще остается 10 потоков с именем http-nio-8080-exec. Может ли кто-нибудь объяснить, почему он никогда не превышает 10?

Если я сделаю такой контроллер

@GetMapping("test")
public String test(@RequestParam("skip") boolean skip) throws InterruptedException {
    if(!skip) {
        System.out.println("I'm starting waiting");
        Thread.sleep(10000);
        System.out.println("I stopped waiting");
    }
    return "dd";
}

, имея server.tomcat.max-threads=200

, сделаю 10 таких запросов: http://localhost: 8080 / test? skip = false

и 11-й запрос, подобный этому одновременно: http://localhost: 8080 / test? skip = true

Эти первые 10 запросов должны подождите 10 секунд, прежде чем вернуть ответ, но 11-й должен вернуться немедленно - проблема в том, что 11-й запрос также ждет, поэтому он заблокирован. Может кто-нибудь объяснить, как это работает? Если для server.tomcat.max-threads установлено значение 200, то я ожидаю, что смогу обработать 200 независимых запросов, верно?

Answer 1

Мне было интересно узнать о поведении, и я проверил его сам. К сожалению, я не могу подтвердить поведение, которое вы испытываете. Чтобы иметь возможность одновременно проверять запросы к сервису, я написал простую программу go, чтобы доказать время отклика. Поэтому я запустил сервис весенней загрузки с одной конечной точкой отдыха с кодом, который вы разместили выше, и в качестве клиента, следующего за go программой:

package main

import (
    "log"
    "os/exec"
    "time"
)

func main() {
    for i := 0; i< 15; i++ {
        go runCmd(i)
    }
    time.Sleep(time.Second * 50)
}

func runCmd(i int) {
    param := "localhost:8080/test?skip=false"
    if i > 10 {
        param = "localhost:8080/test?skip=true"
    }
    cmd := exec.Command("curl", param)
    log.Printf("Running command %d and waiting for it to finish...", i)
    start := time.Now()
    err := cmd.Run()
    end := time.Now()
    duration := end.Sub(start)
    log.Printf("Command  %d finished within of second %f error: %v", i, duration.Seconds(), err)
}

эта программа использует curl для отправки первых 10 запросов с параметром skip = false и другим 5 запросов с пропуском = истина. И вывод был:

2020/03/08 19:21:18 Running command 14 and waiting for it to finish...
2020/03/08 19:21:18 Running command 9 and waiting for it to finish...
2020/03/08 19:21:18 Running command 3 and waiting for it to finish...
2020/03/08 19:21:18 Running command 10 and waiting for it to finish...
2020/03/08 19:21:18 Running command 7 and waiting for it to finish...
2020/03/08 19:21:18 Running command 0 and waiting for it to finish...
2020/03/08 19:21:18 Running command 12 and waiting for it to finish...
2020/03/08 19:21:18 Running command 6 and waiting for it to finish...
2020/03/08 19:21:18 Running command 5 and waiting for it to finish...
2020/03/08 19:21:18 Running command 13 and waiting for it to finish...
2020/03/08 19:21:18 Running command 11 and waiting for it to finish...
2020/03/08 19:21:18 Running command 2 and waiting for it to finish...
2020/03/08 19:21:18 Running command 1 and waiting for it to finish...
2020/03/08 19:21:18 Running command 4 and waiting for it to finish...
2020/03/08 19:21:18 Running command 8 and waiting for it to finish...
2020/03/08 19:21:18 Command  12 finished within of second 0.035109 error: <nil>
2020/03/08 19:21:18 Command  14 finished within of second 0.035290 error: <nil>
2020/03/08 19:21:18 Command  11 finished within of second 0.040090 error: <nil>
2020/03/08 19:21:18 Command  13 finished within of second 0.041358 error: <nil>
2020/03/08 19:21:28 Command  9 finished within of second 10.034510 error: <nil>
2020/03/08 19:21:28 Command  0 finished within of second 10.034436 error: <nil>
2020/03/08 19:21:28 Command  10 finished within of second 10.037470 error: <nil>
2020/03/08 19:21:28 Command  6 finished within of second 10.042294 error: <nil>
2020/03/08 19:21:28 Command  5 finished within of second 10.042328 error: <nil>
2020/03/08 19:21:28 Command  7 finished within of second 10.045510 error: <nil>
2020/03/08 19:21:28 Command  3 finished within of second 10.045638 error: <nil>
2020/03/08 19:21:28 Command  1 finished within of second 10.049024 error: <nil>
2020/03/08 19:21:28 Command  2 finished within of second 10.053824 error: <nil>
2020/03/08 19:21:28 Command  8 finished within of second 10.053102 error: <nil>
2020/03/08 19:21:28 Command  4 finished within of second 10.053306 error: <nil>

, как вы можете видеть в запросах на вывод 11 - 14, завершенных без задержки, поэтому они не блокируются. Поэтому, вероятно, вам нужно проверить свой тест, возможно, проблема в тесте, а не в конфигурации tomcat.

А ожидание обработки 200 независимых запросов - это правда, поэтому должно ли оно вести себя и вести себя таким образом.