Что будет, когда ИИ станет умнее нас?

Представь момент, когда на Земле появляется интеллект, который умнее тебя… умнее лучших учёных… умнее всего человечества вместе взятого. И самое тревожное — этот момент может наступить уже при нашей жизни. Учёные называют это событие появлением сверхинтеллекта. И многие считают его самым важным рубежом в истории цивилизации. Даже важнее интернета. Даже важнее атомной энергии. Даже важнее появления человека разумного. Есть три уровня развития машинного интеллекта: узкий ИИ — умеет делать одну задачу...

Представь: ты просыпаешься, открываешь телефон — и не понимаешь, что правда, а что сгенерировано ИИ. Новости — фейк. Голос друга — подделка. Решения за тебя принимает алгоритм. Звучит как фантастика? Проблема в том, что это уже не фантастика...

Последние пару лет кажется, что искусственный интеллект развивается как ракета. Каждый месяц новые модели. Каждый месяц новые возможности. Вчера ИИ писал тексты, а сегодня он пишет код, рисует картинки и помогает делать научные исследования и, вольно или не вольно, создаётся ощущение, что дальше будет только быстрее. Но есть один интересный момент. Некоторые исследователи начали говорить о неожиданной вещи: развитие ИИ может… замедлиться. Причём не из-за одного фактора, а из-за целого набора проблем...

Ещё несколько лет назад голосовые ассистенты казались чем-то вроде технологической игрушки. Можно было спросить погоду, поставить таймер или попросить включить музыку. Удобно — но не более. Но за последние пару лет всё изменилось. Нейросети начали писать тексты, помогать с программированием, объяснять сложные вещи и даже генерировать идеи для бизнеса. И внезапно оказалось, что искусственный интеллект теперь есть почти у каждого человека — прямо в телефоне, браузере или умной колонке. У компании Яндекс есть свой цифровой помощник — Алиса...

В 1956 году несколько учёных собрались на небольшой научный семинар в США. Они обсуждали довольно странную идею: а что если однажды машина сможет думать как человек? Тогда же появился термин «искусственный интеллект». С тех пор прошло почти 70 лет — и сегодня мы живём в мире, где нейросети пишут тексты, рисуют картины, программируют, помогают врачам и ведут диалог почти как люди, но у многих исследователей есть куда более радикальная идея. Она называется технологическая сингулярность. И если она действительно произойдёт — мир изменится быстрее, чем во время промышленной революции...