Программа 'ab' зависает после большого количества запросов, почему?

Question

Всякий раз, когда я использую 'ab' для тестирования веб-сервера, он на некоторое время зависает после отправки большого количества запросов, но продолжается примерно через 20 секунд.

Рассмотрим следующий симулятор HTTP-сервера, написанный на Ruby:

require 'socket'

RESPONSE = "HTTP/1.1 200 OK\r\n" +
           "Connection: close\r\n" +
           "\r\n" +
           "\r\n"

buffer = ""
server = TCPServer.new("127.0.0.1", 3000)  # Create TCP server at port 3000.
server.listen(1024)                        # Set backlog to 1024.
while true
    client = server.accept             # Accept new client.
    client.write(RESPONSE)             # Write a stock "HTTP" response.
    client.close_write                 # Shutdown write part of the socket.
    client.read(nil, buffer)           # Read all data from the socket.  
    client.close                       # Close it.
end

Затем я запускаю ab следующим образом:

ab -n 45000 -c 10 http://127.0.0.1:3000/

В течение первых нескольких секунд ab выполняет свою работу, как и предполагалось, и использует 100% CPU:

Benchmarking 127.0.0.1 (be patient)
Completed 4500 requests
Completed 9000 requests
Completed 13500 requests

После примерно 13500 запросов загрузка ЦП системы падает до 0%. Аб, кажется, застыл на чем-то. Проблема не в сервере, потому что в этот момент сервер вызывает accept (). Примерно через 20 секунд ab продолжает работу, как будто ничего не произошло, и снова использует 100% ЦП, только через несколько секунд снова останавливается.

Я подозреваю, что что-то в ядре замедляет соединения, но что и почему? Я использую OS X Leopard. Я видел подобное поведение и в Linux, хотя зависание происходит при гораздо большем количестве запросов и не так часто.

Эта проблема не позволяет мне запускать большие тесты HTTP.

Answer 1

Звучит так, как будто у вас кончились эфемерные порты . Для проверки используйте команду netstat и найдите несколько тысяч портов в состоянии TIME_WAIT.

В Mac OS X эфемерный диапазон портов по умолчанию составляет от 49152 до 65535, всего 16384 порта. Вы можете проверить это с помощью команды sysctl:

$ sysctl net.inet.ip.portrange.first net.inet.ip.portrange.last
net.inet.ip.portrange.first: 49152
net.inet.ip.portrange.last: 65535

После того как у вас закончатся эфемерные порты, вам обычно нужно подождать, пока не истечет состояние TIME_WAIT (2 * максимальное время жизни сегмента), пока вы не сможете повторно использовать определенный номер порта. Вы можете удвоить количество портов, изменив диапазон на 32768, который является значением по умолчанию в Linux и Solaris. (Максимальный номер порта составляет 65535, поэтому вы не можете увеличить верхний предел.)

$ sudo sysctl -w net.inet.ip.portrange.first=32768
net.inet.ip.portrange.first: 49152 -> 32768

Обратите внимание, что официальный диапазон , обозначенный IANA , составляет от 49152 до 65535, и некоторые брандмауэры могут предполагать, что динамически назначенные порты попадают в этот диапазон. Возможно, вам придется перенастроить брандмауэр, чтобы использовать больший диапазон за пределами вашей локальной сети.

Также возможно уменьшить максимальное время жизни сегмента (sysctl net.inet.tcp.msl в Mac OS X), которое контролирует продолжительность состояния TIME_WAIT, но это опасно, поскольку может привести к тому, что старые соединения будут смешиваться с новыми те, которые используют тот же номер порта. Существуют также некоторые приемы, связанные с привязкой к конкретным портам с параметром SO_REUSEADDR или закрытием с параметром SO_LINGER, но они также могут вызвать перепутывание старых и новых подключений, поэтому их обычно считают плохими идеями.

Answer 2

Вместо увеличения количества портов измените длину TIME_WAIT в Mac OS X.

Это работает только в разработке, но теперь я могу запросить ab столько запросов, сколько я хочу, без тайм-аута.

Установите время ожидания по умолчанию равным 1000 мс, например:

$ sudo sysctl -w net.inet.tcp.msl=1000
net.inet.tcp.msl: 15000 -> 1000

Страница brianp.net, упомянутая в другом ответе, больше не доступна. Вы можете получить его из интернет-архива .

Answer 3

Другой вариант решения этой проблемы - включить HTTP KeepAlive, добавив параметр "-k". Это заставит ab повторно использовать TCP-соединения и, как следствие, не исчерпает все доступные порты. Например:

ab -n 45000 -c 10 -k http://127.0.0.1:3000/