Не понимая этого robots.txt - PullRequest
       27

Не понимая этого robots.txt

0 голосов
/ 13 сентября 2018

Другая компания создала файл robots.txt для сайта, которым я управляю.Это код, который они использовали:

User-agent: googlebot
User-agent: google
User-agent: bingbot
User-agent: bing
Allow: /products/

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /xmlrpc.php
Disallow: /sales/
Disallow: /products/
Allow: /wp-content/uploads/
Allow: /wp-content/themes/
Allow: /wp-admin/admin-ajax.php*

Я вижу Disallow: / products / and allow / products /.Я не понимаю, почему они так записали это.Должен ли я что-то изменить?

1 Ответ

0 голосов
/ 13 сентября 2018
  1. Первая директива, Allow: /products/, действительна для Google и Bing-ботов.
  2. Вторая директива, Disallow: /products/, действительна для всех других ботов, `User-agent: * ´.

Я не вижу большого смысла в этих правилах, ноони не нарушают стандарт.

...