Ведущие мировые эксперты, участвующие в разработке искусственного интеллекта (ИИ), убеждены, что в обозримом будущем человечество столкнется с технологической сингулярностью. Другими словами, не за горами тот день, когда научно-технический прогресс станет неуправляемым, а ИИ превзойдет возможности людей абсолютно во всех сферах.
Наступление технологической сингулярности было предсказано в XX веке, а автором термина является венгерско-американский математик Джон фон Нейман. Концепцию технологической сингулярности развил и популяризовал писатель-фантаст Вернор Виндж, опубликовавший в 1983 году статью, в которой предсказывается создание "искусственного разума", несоизмеримо превосходящего разум его создателей (людей). После этого, по мнению Винджа, начнутся необратимые изменения, которые приведут к бесподобным результатам или, возможно, ужасным последствиям.
Технологическая сингулярность — это не только создание сверхразумного, но и самообучающегося и саморазвивающегося ИИ, который будет самостоятельно ставить перед собой те или иные задачи, а после искать способы их реализации. Далеко не факт, что при этом ИИ будет считаться с нашими желаниями или гарантировать нашу безопасность.
"Я был бы одинаково удивлен, если бы это произошло до 2005 года или после 2030 года", — писал Виндж.
Помимо опасений, связанных с резким сокращением рабочих мест и ростом социального неравенства (ИИ будет способен заменить большинство человеческих рабочих), существует риск, что ИИ начнет вести себя агрессивно, а у нас банально не будет возможности "отключить" его, так как для обеспечения собственного существования он пойдет на любые меры.
Например, мы попытаемся использовать ИИ для борьбы с климатическими изменениями, а он, проанализировав ситуацию и создав бесчисленное множество моделей, придет к выводу, что для достижения результата нужно избавиться от всего человечества.
Контроль над ИИ
Если на законодательном уровне запретить любые телодвижения в направлении развития ИИ, то нет никаких сомнений, что разработчики уйдут в тень и все равно продолжат свое дело. То есть появление сверхразумного ИИ — вопрос времени. Это неизбежно.
Ученые считают, что разработки в данном направлении должны быть максимально прозрачными, а любые открытия, достижения, тут же должны выноситься на обсуждение с последующим принятием мер по регулированию. Но достаточно ли таких мер? Да и согласятся ли абсолютно все государства мира делиться собственными успехами в разработке ИИ, особенно если они окажутся максимально прорывными...
Возможно, как утверждает американский режиссер-документалист и популяризатор науки Джеймс Баррат, ИИ действительно станет "последним изобретением человечества".
Может быть, любые опасения напрасны и ИИ сделает нашу жизнь прекрасной, подарив человечеству лекарства от большинства болезней, решив проблемы, связанные с изменением климата и многое другое. Только вот оптимистов все меньше и меньше.