Я бы хотел запретить /questions/{ID}/foo, но не /questions/{ID}.
/questions/{ID}/foo
/questions/{ID}
Синтаксис Disallow: /questions/*/foo?
Disallow: /questions/*/foo
Хорошее место для начала поиска правильного синтаксиса: здесь :
Обратите внимание также, что глобализация и регулярные выражения не поддерживаются в любомUser-agent или Disallow строки.'*' В поле User-agent является специальным значением, означающим «любой робот».В частности, вы не можете иметь строки типа "User-agent: *bot*", "Disallow: /tmp/*" или "Disallow: *.gif".
"User-agent: *bot*"
"Disallow: /tmp/*"
"Disallow: *.gif"