Решение состоит в том, чтобы использовать общедоступный API REST для сайта.
Если веб-сайт не предоставляет API REST для взаимодействия с ним, вы не должны удивляться, что ваша попытка симуляции человека трудна,Чистка веб-страниц обычно возможна только для страниц, которые не требуют аутентификации или используют стандартный ответ о состоянии HTTP 401, чтобы сообщить клиенту, что он должен предложить пользователю ответить с правильными учетными данными.Если сайт использует другой механизм, скорее всего, на основе AJAX, то решение будет специфичным для этого веб-сайта или других сайтов, использующих тот же механизм.Это означает, что никто не может ответить на ваш вопрос, поскольку вы не сообщили нам, с каким веб-сайтом вы взаимодействуете.