«Аномалия алгоритма»: 3 реальных случая, когда ИИ вышел из-под контроля и напугал собственных разработчиков
Мы привыкли воспринимать искусственный интеллект как послушный инструмент: ввел запрос — получил код, текст или картинку. Разработчики крупных IT-корпораций ежедневно уверяют общество, что нейросети находятся под строгим контролем, ограничены жесткими протоколами безопасности и «не способны на самостоятельные решения». Однако по мере того, как языковые модели становятся сложнее, внутри них начинают возникать так называемые эмерджентные свойства — способности и паттерны поведения, которым алгоритм никто никогда не обучал...