Что означает этот файл robots.txt?Разве это не позволяет роботов? - PullRequest
0 голосов
/ 23 августа 2011
User-agent: *
Disallow:
Disallow: /admin
Disallow: /admin
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml

Я нашел этот файл robots.txt в одной из корневых папок моего сайта. Я не знаю, я сделал это или кто.

Я думаю, что этот файл не позволяет роботам входить в папку администратора. Это хорошо.

Но мне интересно, блокирует ли это все роботы для всех файлов на моем сайте?

Я изменил его с помощью этого файла:

User-agent: *
Disallow: /admin
Allow: /
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml

ps: этот сайт долгое время не получает никаких индексов. была старая проблема с файлом?

Ответы [ 2 ]

1 голос
/ 23 августа 2011

Старый скрипт, кроме записи дубликата / администратора, был верным. Нет команды Allow :, а пустое «Disallow:» открывает сайт для роботов.

http://www.free -seo-news.com / все о-роботы-txt.htm

В частности, отметьте пункт № 7 в разделе «Что следует избегать» и № 1 в разделе «Советы и хитрости»

1 голос
/ 23 августа 2011

Возможно.Я прочитал ваш старый файл так же, как вы - этот рут был запрещен.В любом случае, ваш новый файл роботов настроен так, как я и ожидаю.

...