Допустим, что твой сайт — это новая квартира. Ты приглашаешь гостей (пользователей), но также к тебе заходят специальные роботы от Яндекса и Google, чтобы изучить твое жилье и рассказать о нем всему миру. А что, если в квартире есть комнаты, куда гостям заходить не нужно? Например, кладовка с хламом или кабинет с личными документами. Как вежливо сказать об этом роботам? Именно для этого существует файл robots.txt — это простая, но очень важная инструкция для поисковых роботов. Robots.txt — это небольшой текстовый файл, который лежит в корне твоего сайта (например, мойсайт...

Robots.txt – это один из простейших файлов на вашем сайте. Но в нём же проще всего сделать опасную ошибку. Всего один символ, который стоит не на месте – и ваше SEO летит в тартарары. Поисковики не видят на вашем сайте того, что вы хотели им показать, но прекрасно считывают закрытую информацию. Ваша миссия провалена. Даже опытные SEO-шники иногда допускают такие ошибки, что уж говорить о начинающих. Если вы до сих пор не знаете, как правильно работать с robots.txt, или уже где-то ошиблись и не хотите, чтобы это повторилось, читайте наш разбор...