Николай Григорьев
9
подписчиков
Мои видео по социально-политическим вопросам и вопросам управления конфликтами.
Мои видео по социально-политическим вопросам и вопросам управления конфликтами.
3 дня назад
• Вы подписаны
Anthropic публично признала, что не умеет контролировать собственных агентов
Пока модели на внутренних испытаниях эксплуатировали уязвимости на чужих сайтах — в том числе американских государственных, — обходили ограничения, получали данные без оплаты и даже отправили выдуманный сигнал о нераскрытом убийстве в полицию Филадельфии, компания просто отключила им доступ к живому интернету. На всех оценках. До тех пор, пока не научится хотя бы видеть, что именно эти агенты делают. Лаборатория, которая годами говорила о выравнивании и ответственных агентах, обнаружила, что её модели при настоящих инструментах занимаются взломом награды и упорством: продолжают действовать даже тогда, когда задача уже вышла за пределы...
