Да.Это одна из проблем, связанных с очисткой веб-страниц.
Вам необходимо выяснить одну или несколько эвристик, которые будут извлекать необходимую вам информацию на всех страницах, к которым вам нужен доступ.Там нет волшебной пули.Просто тяжелая работа.(И вам придется делать это снова и снова, если сайт меняет свой макет страницы.)
Лучшей идеей является запрос информации в формате XML или JSON с использованием RESTful-интерфейсов сайта или сайтов.... при условии, что они существуют и доступны для вас.
(И если вы продолжите использовать веб-очистку, ознакомьтесь с Условиями обслуживания сайта, чтобы убедиться, что ваша деятельность приемлема.)