Как настроить robots.txt для AI-краулеров: чек-лист для попадания в ответы ChatGPT и Perplexity
Маркетолог скопировал robots.txt с прошлого проекта: там разрешены только Googlebot и YandexBot, а GPTBot, ClaudeBot и PerplexityBot получают 403. Search Console зелёный, конкуренты цитируются в ChatGPT, а его сайт — нет. Он думал, что «индексация = видимость в нейросетях», и боялся трогать файл: вдруг сломается SEO. На практике хватает 15 минут: найти Disallow, который молча режет AI-краулеры, и добавить пять строк Allow для retrieval-ботов, не меняя правила Googlebot и YandexBot. robots.txt для...