Будет ли googlebot индексировать мой index.php даже с перенаправлением htaccess? - PullRequest
1 голос
/ 28 сентября 2010

Используя инструкцию перенаправления в моем файле htaccess, люди, которые вводят следующее в адресную строку ...

http://example.com/index.php

... перенаправляются на ...

http://example.com/

У меня также есть метатег noindex, nofollow на всех страницах моего сайта.

Мой вопрос, учитывая, что поведение и метаданные перенаправления будут googlebot индексировать мою главную страницу (то есть index.php), если мой robots.txtфайл выглядит следующим образом ...

User-agent: Googlebot
Allow: /index.php
Disallow: /

User-agent: *
Disallow: /

Если нет, то как мне изменить свой robots.txt, чтобы только моя главная страница была проиндексирована в google и ничего более?

Заранее спасибо!

1 Ответ

0 голосов
/ 28 сентября 2010

Это рискованно.Чтобы убедиться, что Google индексирует вашу домашнюю страницу, сделайте следующее:

User-agent: *
Allow: /index.php
Disallow: /a
Disallow: /b
...
Disallow: /z
Disallow: /0
...
Disallow: /9

Так что ваш корень "/" не будет соответствовать правилам запрета.

Также, если у вас есть AdSense, не забудьте добавить

User-agent: Mediapartners-Google
Allow: /
...