Какой самый умный и трафик способ проверить, существует ли URL в узле? - PullRequest
0 голосов
/ 27 октября 2019

Я работаю с миллионами документов, каждый из которых имеет подмножество собственного массива с URL-адресами изображений.

По некоторым причинам часть этих URL-адресов отсутствует (возвращается 404).

Моя цель состоит в том, чтобы создать скрипт в Node, который будет проходить по всем URL-адресам и отмечать недостающие, чтобы их можно было исправить.

Работая над этим, я начал задаваться вопросом, что больше всего трафикаметод / подход, который можно использовать в таких случаях?

Я провел некоторые оптимизации, такие как вызов URL-адреса с помощью метода HEAD HTTP, но я чувствую, что могут быть и другие приемы, которые я не сделал 't думать о.

Для записи, проект использует Backblaze b2 для хранения изображений, так что взломать с их API тоже вариант.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...