Какой самый быстрый способ проверить сотни адресов лука? - PullRequest
0 голосов
/ 10 апреля 2020

Я заинтересован в создании инструмента для проверки сотен URL-адресов лука и как можно быстрее сделать снимок экрана сайта. Сделать это для одного сайта легко, но если я хочу сделать для сотен сайтов, я знаю, что должен распределить процесс проверки между несколькими работниками, используя разные потоки, но я не знаю, как мне поступить, так как некоторые URL-адреса могут занять некоторые раньше знать их статус. Я проверял один веб-сайт: https://status.onion.live/ И они используют несколько рабочих, и у каждого рабочего есть несколько потоков. Вы можете проверить это в разделе «Рабочие GOAT», их самый быстрый рабочий - это чек 247 URL каждую минуту, используя 256 потоков. Как мне перейти к разработке аналогичной структуры? Я не хочу изобретать велосипед, поэтому, если есть какая-то встроенная утилита, я проверю ее

...