Я недавно столкнулся с такой же проблемой с другим сайтом, который хотел отменить. Я использую Java, и после некоторых исследований в Интернете я использовал Selenium IDE для firefox, в котором вы можете писать тестовые примеры Java Junit, которые автоматически откроют веб-страницу и кнопки, заполняют формы и т. Д.
Он также поддерживает C#, Python, ruby и т. Д.
Я использовал его, чтобы нажать кнопку «Загрузить еще», и когда страница была загружена полностью после всех кликов, я сохранил ее вручную.
You can download Selenium from their website and I found this youtube video useful too http://www.youtube.com/watch?v=twdDfDOrHC4