Для SEO вам нужно показывать только сканерам те страницы, которые вы считаете полезными для пользователей, и вы хотите, чтобы пользователь нашел этот контент.
Это означает, что если под / module / у вас есть страницы с контентом, который пользователь хочет видеть в поисковой системе - вы можете открыть его в роботах и убедиться, что в нем нет тега noindex. страницы HTML.
Также обратите внимание, что если вы запретите / module / , но у вас есть внешние ссылки на страницы в / module / , эти страницы могут быть проиндексированы сканером, несмотря на из-за того, что вы закрыли эти страницы в роботах.