Алгоритмы в Сети уже решают, что нам показывать. Теперь они начнут диктовать нам смыслы увиденного.
Техногиганты активно включились в гонку по созданию искусственных интеллектов, и борьба пошла жесткая. Например, Alphabet Inc (в просторечии — Google) подешевел на $100 млрд после того, как его новый чат-бот Bard обнародовал неточную информацию в презентационном ролике.
Чувствительность промашки объясняется тем, что сейчас невероятно популярен OpenAI — стартап, который был поддержан Microsoft на $10 млрд. Точнее, созданный OpenAI ChatGPT — чат-бот с искусственным интеллектом, способный работать в диалоговом режиме. Он привлёк внимание своими широкими возможностями: написание кода и текстов, переводы, получение точных ответов и использование контекста диалога для ответов.
Во всём мире, в том числе в России, уже зафиксированы факты, когда результаты работы ChatGPT выглядят вполне адекватно человеческой работе, а написанные им научные труды принимаются комиссией. Например, студент РГГУ успешно защитил написанную ChatGPT дипломную работу.
Microsoft намерена внедрить ChatGPT в собственную поисковую систему Bing — и Google не мог остаться в стороне. Ведь аналитики уже не исключают вариант, при котором Microsoft потеснит Googlе в сфере поиска информации в Интернет.
Однако внимания заслуживают не столько технические возможности новых ИИ, сколько приоритетная для Запада сфера их использования.
«Будем думать за вас»
То, что поисковые системы выдают результаты не объективно, а в соответствии с настроенными алгоритмами? — давно не секрет. «Нужные» результаты — в том числе те, за которые дополнительно заплатили рекламодатели? — показываются в топе списка, обычные — ниже, а нежелательные — вообще не показываются.
Насколько велик масштаб таких махинаций, изложил после покупки Тwitter Илон Маск. Выяснилось, что Twitter работал как пресс-служба Демократической партии США, цензурируя то, что могли бы увидеть пользователи.
Теперь интернет-корпорации намерены сделать следующий шаг. А именно, не только регламентировать результаты, которые получает пользователь в ответ на свой поисковый запрос, но и интерпретировать эти результаты. То есть объяснять, что именно они значат и как их надо понимать.
«Привлекательность поиска с ИИ в том, что он может выдавать результаты простым языком, а не в виде списка ссылок. Это может сделать просмотр эффективнее», — видит позитивную сторону такой реформы Reuters.
А 7 февраля Microsoft показала обновленный поисковик Bing. Теперь его можно попросить превратить информацию из интернета в планы и конспекты или подготовить выжимку из обширного документа. Если нужно, браузер поможет написать письмо или пост в соцсетях.
Восстание машин — не самое опасное
Каковы следствия из обозначенного тренда? Количество средних профессионалов в любых областях, на которые будут натренированы нейросети, станет огромным. Во всяком случае, до тех пор пока будет доступ в интернет.
Но хуже всего то, что уязвимость человеческого понимания окружающего мира выйдет на качественно новый уровень. Раньше человек хоть и оперировал предложенным ему массивом данных, всё же обрабатывал их сам. Приходя к тем или иным результатам. В ближайшей же перспективе ИИ будет сам формировать систему выводов по вопросу, который возникнет у человека.
Проще говоря, машинная система станет для человека основной при планировании действий, а также в его отношении к тем или иным вопросам политики, социума, науки и т. д.
Догадаться, какую систему выводов будут продвигать созданные западными корпорациями варианты ИИ, — нетрудно.
Вывод для России однозначен: нам необходимо развивать собственные технологии ИИ. И готовиться к тому, что когнитивные войны выйдут на качественно новый уровень, при котором — в понимании наших оппонентов — у человека вообще не должно оставаться выбора. Даже на уровне выводов из того, что он увидел.
Директор Института РУССТРАТ Елена Панина