Ну, в последнее время была похожая проблема. Все, что мне нужно было сделать, это сгенерировать robots.txt
вручную. Просто погуглите это - generate robots.txt
. Затем загрузите его в свое приложение. Также было бы неплохо сгенерировать sitemap.xml
.
Если вы слишком ленивы, вы можете просто скопировать и вставить следующий код:
User-agent: *
Allow: /
Disallow: /example // example is directory u want to exclude,
// if u dont want to exclude anything, just remove this line
Sitemap: https://example.com/sitemap.xml