1 месяц назад
Как разрешить индексацию только определённых разделов через robots.txt?
Как разрешить индексацию только определённых разделов через robots.txt? Прямое решение — в файле robots.txt задать директиву Allow для нужных разделов и Disallow для всех остальных, например: User-agent: * Allow: /blog/ Allow: /news/ Disallow: /. Учтите важный нюанс: robots.txt ограничивает только обход страниц поисковыми роботами, но не гарантирует исключение из индекса. Если страницы уже попали в поиск, их нужно убрать через мета-тег noindex или ответ сервера 410. Для быстрой проверки используйте...