User-agent: *
Disallow:
Disallow: /admin
Disallow: /admin
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml
Я нашел этот файл robots.txt в одной из корневых папок моего сайта. Я не знаю, я сделал это или кто.
Я думаю, что этот файл не позволяет роботам входить в папку администратора. Это хорошо.
Но мне интересно, блокирует ли это все роботы для всех файлов на моем сайте?
Я изменил его с помощью этого файла:
User-agent: *
Disallow: /admin
Allow: /
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml
ps: этот сайт долгое время не получает никаких индексов. была старая проблема с файлом?