У меня точно такая же проблема:
Я сейчас настраиваю версию https, хочу посмотреть на нее и отладить ее без спешки, тем временем отгоняя Google от сканирования https, но сохраняя http "обычным делом". Вот фрагмент кода, который я использовал в файле конфигурации:
<rule name="https_robots" stopProcessing="true">
<match url="^robots\.txt$" />
<conditions>
<add input="{HTTPS}" pattern="^OFF$" />
</conditions>
<action type="Rewrite" url="robots_https.txt" />
</rule>
Несколько заметок:
По сути, я создал файл "robots_https.txt", содержащий инструкцию "disallow for all".
Я использовал Rewrite, а не Redirect. Я не уверен, что паук получит перенаправление. Я действительно сомневаюсь в этом. С Rewrite вы не ошибетесь.
Надеюсь, это поможет!