Черный список ботов с сайтов - PullRequest
0 голосов
/ 01 ноября 2011

Я подписался на API. Его документация гласит: «Рекомендуется помещать ботов в черный список с ваших сайтов, чтобы снизить затраты на их использование».

Что это значит и как это сделать?

1 Ответ

2 голосов
/ 01 ноября 2011

Вам потребуется настроить файл robots.txt, в котором содержатся инструкции о том, что такое боты, а какие нет.

См. http://www.robotstxt.org/.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...