Можно ли использовать robots.txt, чтобы боты не видели лениво загруженный контент? - PullRequest
0 голосов
/ 31 октября 2019

Допустим, что googlebot очищает https://example.com/page.

  • example.com имеет файл robots.txt, который запрещает /endpoint-for-lazy-loaded-content, но допускает /page
  • /page Ленивый загружает контент, используя /endpoint-for-lazy-loaded-content (через fetch)

Видит ли googlebot загруженный ленивый контент?

...