Что я решил сделать здесь, так это добавить что-то, что распознает запросы в минуту с определенного IP-адреса, затем автоматически занести этот IP-адрес в черный список (перенаправить их на страницу «вы были в черном списке» и сохранить их IP в таблице черного списка) если они превышают настраиваемое количество. Я поймал GoogleBot в первую ночь, а затем настроил белый список.