В 2023 году GPT-4 сдал экзамен по праву из американской адвокатской коллегии лучше, чем 90% живых кандидатов. Это не метафора и не преувеличение. Системы, которые ещё десять лет назад не могли связно написать абзац, теперь решают задачи, требующие профессиональной подготовки.
Учёные называют момент, когда искусственный интеллект превзойдёт человека во всех областях, технологической сингулярностью. Никто не знает точной даты, но исследователи из Оксфордского института будущего человечества оценивают вероятность появления такого ИИ до 2100 года примерно в 50%. Часть экспертов называет более близкие сроки.
Главная особенность сверхинтеллекта в том, что он сможет улучшать сам себя. Человек учится годами, а система, которая сама пишет собственный код, теоретически способна пройти этот путь за часы. Именно этот сценарий беспокоит исследователей больше всего: не злой умысел, а просто скорость, которую невозможно контролировать.
Что конкретно изменится? По прогнозам, сверхинтеллект способен ускорить научные открытия в медицине и физике на десятилетия вперёд. Задачи, которые человечество не могло решить веками, могут получить ответы за недели. Это касается онкологии, климата, энергетики.
Но есть и оборотная сторона. Система с интеллектом выше человеческого будет ставить собственные цели. Насколько они совпадут с человеческими ценностями, зависит от того, как именно она обучена. Проблема выравнивания ценностей ИИ с человеческими сегодня считается одной из ключевых в науке. Над ней работают отдельные исследовательские институты, включая OpenAI и DeepMind.
Пока ни одна существующая система не обладает общим интеллектом, сопоставимым с человеческим. Современный ИИ силён в узких задачах, но плохо справляется с переносом знаний из одной области в другую. Это принципиальное отличие от человеческого мышления остаётся нерешённой проблемой.
Вопрос не в том, случится ли это. По мнению большинства исследователей, вопрос в том, успеем ли мы выработать правила раньше, чем правила перестанут быть нужны.