Как правильно запустить несколько (500+) команд cURL подряд? - PullRequest
0 голосов
/ 18 октября 2019

Я запускаю команды cURL со страницы php для доступа к информации из стороннего API. Максимальная скорость 180 запросов в минуту.

Мне нужно обновить более 10000 записей.

Вот как у меня сейчас настроены вещи:

  1. Подключитесь к моей базе данных MySQL и найдите все записи, которые необходимо обновить. Это возвращает более 10 000 записей.
  2. Получите необходимые данные из API, используя cURL, одну за другой, и обновите мою базу данных новой информацией. Затем наступает пауза .5 секунд, чтобы убедиться, что я не превышаю максимум запросов в минуту.

Чтобы страница заработала, мне нужно ее посетить. Например, я бы посетил http://example.com/run_curl.php в моем браузере.

Поскольку существует более 10000 записей, для завершения требуется много времени. Но я получаю 504 Gateway Timeout после того, как страница не загрузится через несколько минут.

Итак, мне нужно обновить страницу несколько раз, чтобы завершить все обновления.

Есть ли лучший способ сделать это, чтобы мне не пришлось обновлять страницу 20 раз

...