Если вы хотите, чтобы поисковые системы проиндексировали целевые страницы вашего сайта и не затронули технические, необходимо создать правильный robots.txt. Для начала давайте разберемся, что такое индексация. Это процесс, когда «проверенные» роботами Яндекса и Гугла страницы заносятся в базу поисковых систем. Такой проиндексированный сайт можно найти в сети по запросу. Для чего нужен роботс? Файл указывает поисковым роботам и краулерам, какие страницы разрешаются к просмотру и индексации, а какие нет...

Файл robots.txt — это текстовый файл, в котором содержаться инструкции для поисковых роботов, в частности каким роботам и какие страницы допускается сканировать, а какие нет. Директивы и инструкция по работе с robots.txt В первую очередь записывается User-Agent, указывая на то, к какому роботу идет обращение, например: Полный список роботов Яндекс: https://yandex.ru/support/webmaster/robot-workings/check-yandex-robots.html#check-yandex-robots И Google: https://support.google.com/webmasters/answer/1061943?hl=ru Синтаксис в robots...