Сценарий, в котором искусственный интеллект (ИИ) восстает против человечества, в ближайшем будущем не рассматривается как реалистичный. По мнению Евгения Кузнецова, генерального директора фонда Digital Evolution Ventures и эксперта в сфере технологий, ни одна из ведущих международных исследовательских групп пока не подтверждает такую угрозу.
При моделировании ситуаций, где ИИ должен был бы самостоятельно формулировать цели, алгоритмы в большинстве случаев отказывались от этого, объясняя это нецелесообразной тратой ресурсов. Это говорит о том, что современные ИИ-системы не обладают настоящей мотивацией и лишь имитируют осознанность на поверхностном уровне.
Текущая архитектура искусственного интеллекта устроена так, что один алгоритм обрабатывает огромное количество пользовательских запросов. Такой подход предполагает тесное взаимодействие с человеком, в котором машина выступает скорее как вычислительное дополнение, а не как самостоятельный субъект.
Эксперт ссылается на исследования в области биофизики, где ИИ рассматривается как часть симбиотической системы с человеком. Именно человек задает эмоциональный и контекстный фон, а алгоритмы обеспечивают вычислительную мощь. Такой союз, по его мнению, может просуществовать очень долго, не представляя угрозы.
При этом Кузнецов считает, что основной риск кроется не в гипотетическом «восстании машин», а в неспособности общества адаптироваться к стремительному развитию технологий. По его словам, люди часто переоценивают скорость технологических изменений, но при этом недооценивают их влияние.