Вы можете создать файл с именем robots.txt в корне вашего сайта. Формат такой:
User-agent: (user agent string to match)
Disallow: (URL here)
Disallow: (other URL here)
...
Пример:
User-agent: *
Disallow: /
Заставит (хороших) роботов ничего не индексировать на вашем сайте. Конечно, некоторые роботы будут полностью игнорировать robots.txt, но для тех, кто его уважает, это ваш лучший выбор.
Если вам нужна дополнительная информация о файле robots.txt, см. http://www.robotstxt.org/