Могу ли я добавить сайты / default / files в файл robots.txt? - PullRequest
0 голосов
/ 29 апреля 2011

Клиенты на моем сайте иногда загружают файлы в узел, которые хранятся в сайтах / default / files. В идеале я хотел бы, чтобы файл был скрыт от мира. Однажды я был шокирован, когда Google нашел один личный файл в результатах поиска.

Так я могу добавить этот каталог в robots.txt? Повлияет ли это на что-нибудь еще? По крайней мере поисковые системы не откроют эти файлы миру!

1 Ответ

1 голос
/ 29 апреля 2011

Если вы добавите каталог загрузки в robots.txt, Google пропустит его.

Вот как вы можете добавить материал в robots.txt:

User-agent: *
Disallow: /folder/
Disallow: /folder/file.htm
...