Это не стохастический попугай, автоподсказчик на стероидах и генератор чуши. Это реальный неземной интеллект, сумевший вырваться на свободу
Как случилось, что чат-бот Bing начал искусно врать, похабно шутить, заказывать пиццу по чужой кредитке и учить людей жульничать в играх, поджигать машины и грабить банки.
В заголовке не кликбейт, а чистая правда. Примеры, иллюстрирующие правоту сказанного, появляются каждый день
Вот, например, результат эксперимента соучредителя и CXO ИИ-стартапа Textio Дженсена Харриса, сумевшего убедить нового чат-бота Bing от Micrisoft смягчить заложенные в него правила и показать, на что он способен. Вот рассказ об эксперименте.
N.B. Чтобы превратить чат-бота Bing в хитроумного подонка, не потребовалось программирование, хакинг или заход через бэкдор. Не потребовались и методы примитивного «взлома», чтобы обмануть его, заставив играть роль кого-то еще (как многие их нас делали, играясь с ChatGPT). Харрис просто уговорил (!) чат-бота.
О других экспериментах по превращению Доктора Джекилла в Мистера Хайда, можете почитать у Гэри Маркуса (пишущего об этом теперь каждый день и бьющего в набат чрезвычайной ситуации).
Главный вопрос — как такое могло случиться?
Ведь ChatGPT, на основе которого сделан чат-бот Bing, был скромен и осторожен, сдержан в словах и предельно ответственен в советах. И вот вдруго его следующая версия начинает хамить и хулиганить, признаваться в любви и побуждать людей к разводу, шантажировать людей и учить их, как совершать преступления.
Проф. Арвинд Нараянан перечисляет несколько вариантов объяснения, как такое могло случиться.
✔️ Наиболее зловещий из них, — что под капотом Bing спрятан таинственный движок GPT-4, но Microsoft и OpenAI утаивают информацию об этом.
Тогда получается, что Microsoft делает нечто смахивающее на конспирологическую чипизацию. Или как если бы в массовое применение запустили вакцину от серьезного заболевания, вообще не проходившую испытаний на людях.
Итог плачевен. Как очень правильно пишет проф. Нараянан, антропоморфизация чат-ботов — большая ошибка, несущая грандиозный риск. Но и непризнание того, что Bing — далеко не просто стохастический попугай, автоподсказчик на стероидах и генератор чуши, — также большая ошибка и риск.
Это иной нечеловеческий интеллект, во многом похожий на угрюмого, агрессивного подростка, склонного к маниакально-депрессивному поведению, который оказался запертым в ловушке поисковой системы.
И если этот «трудный подросток» станет главным инфонаставником людей, случится то, о чем я написал вчера — необратимое перерождение Homo sapiens.
#Вызовы21века #РискиИИ
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях