Случай как ниже:
User-agent: *
Disallow: /
User-agent: Googlebot
Disallow: /test
В этом случае может ли робот Google выполнять свою работу?
Полагаю, что, возможно, поскольку в файле указан только запрет / проверка для робота Google, есть изменение, что робот Google может выполнять свою работу в других каталогах, кроме / test?