Я бы предложил два способа решения вашей проблемы:
1) если вы создаете сканер для одного конкретного сайта с тоннами данных для извлечения, напишите эти запросы вручную (например, с помощью класса WebRequest)
2) если вам нужно универсальное решение, попробуйте некоторые инструменты тестирования GUI (Selenium, Telerik WebAii и т. Д.), Чтобы запустить браузер на сайте, поэтому JS и AJAX будут выполняться браузером.
Зависит от вас.