С точки зрения многих технологических миллиардеров, будущее человечества предопределено: сверхразумный ИИ, космические колонии и победа над биологическими ограничениями. Это трансгуманистическое видение, где технологии якобы спасут всех, кажется научной фантастикой — и тем не менее финансовая элита по всему миру считает его неизбежным.
Научный журналист Адам Беккер в книге «Больше всего навсегда» развенчивает этот утопический нарратив. Он показывает, что представления о всесильном ИИ не только наивны, но и несут в себе опасные последствия.
Беккер акцентирует внимание на ограничениях современных ИИ-систем. Галлюцинации — то есть вымышленные или ошибочные ответы — остаются фундаментальной проблемой современных моделей ИИ. Так, например, ChatGPT заявил, что с территории Испании можно увидеть Эйфелеву башню и небоскрёбы Дубая — пример очевидного абсурда. Пока ИИ не научится понимать, что значат слова и как они соотносятся с реальностью, такие ошибки будут продолжаться.
Попытки устранить эти проблемы с помощью увеличения объёма данных для обучения моделей ИИ, по мнению Беккера, лишь усугубляют ситуацию: алгоритмы начинают обучаться на контенте, сгенерированном другими ИИ, включающем ложную и предвзятую информацию – те самые «галлюцинации». В итоге система замыкается в собственном искажённом зеркале.
Главное возражение автора — техноутопии отвлекают внимание от настоящих вызовов: климатического кризиса, социальной несправедливости, угрозы ядерной войны. Эти проблемы не решаются за счёт новых технологий. «Ничто не спасёт нас. Компьютер – не джинн, который исполнит любые три желания», — пишет Беккер. — «Технологии не исцелят мир. Это можем сделать только мы сами».
Источник: https://www.sciencenews.org/article/more-everything-forever-book-review-ai
Больше интересного – на медиапортале https://www.cta.ru/