Глядя вглубь логов моего сервера и распечатывая пользовательский агент заголовка http, я обнаружил, что User Agent из Google Page Speed Insight - это два приведенных ниже примера
{ "pattern": "Chrome-Lighthouse",
"instances": [
"Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3694.0 Safari/537.36 Chrome-Lighthouse",
"Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3694.0 Mobile Safari/537.36 Chrome-Lighthouse"
]}
Я использую эти объекты дляподтвердить с помощью регулярного выражения, если пользовательский агент является ботом
regex = RegExp("Chrome-Lighthouse","ig")
regex.test("Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3694.0 Safari/537.36 Chrome-Lighthouse")