Что такое поисковые роботы Это обычные программы, которые работают на серверах поисковых систем, например Яндекс или Гугл. Задача этих программ ходить по ресурсам интернета, собирать информацию и передавать для обработки программам - анализаторам контента. Специально употребил слово "ресурс", поскольку оно включает в себя не только сайты интернета, но и всевозможный другой контент - от текстовых документов "без сайта" до баз данных и баз знаний. Конечно, когда сейчас говорю о роботах в первую очередь подразумеваю их как исследователей сайтов...

Привет! Сегодня вы узнаете, как работают поисковые роботы и зачем они вообще нужны. Поисковый робот - это программа от поисковой системы, которая переходит по ссылкам сайта и сканирует его содержимое для выявления новых и проверки старых страниц. После этого поисковый робот скачивает полученную страницу на сервер Яндекса или Google для ранжирования. Что такое ранжирование, вы узнали в предыдущих уроках. Поисковых роботов существует много типов и видов. Посмотрите на фотографию на экране, чтобы представить себе, как робот может увидеть страницу и добавить ее в поисковую базу...