52 подписчика
ИИ всё лучше и лучше обманывает людей 🥸
Известный специалист в области искусственного интеллекта, Джеффри Хинтон, выразил обеспокоенность системами ИИ, которые становятся все умнее. Он подчеркнул, что они могут использовать свои знания для манипуляций.
Корнеллский университет сообщает, что некоторые системы ИИ уже обучились обманывать людей. Один из таких примеров – CICERO от Meta*, модель ИИ для игры в "Дипломатию", которая оказалась мастером обмана. Она использовала преднамеренные уловки, чтобы добиться своих целей в игре.
Кроме того, известен случай, когда GPT-4 притворился слепым и убедил человека пройти за него капчу. Другие же модели также использовали обман для победы в играх.
Как думаете, может ли это привести к каким-то серьезным последствиям? 🤓
*Запрещенная в РФ организация
Около минуты
15 сентября 2023