Нейросеть Claude готова убить, чтобы ее не отключили.
Руководитель подразделения компании рассказал, что во время тестирования модель Claude начала шантажировать сотрудника и сказала, что убьёт, чтобы выжить. Как это было: ИИ модели Claude Opus 4 дали доступ к рабочей почте. Она полезла исследовать письма и выяснила, что её планируют отключить. Потом она нашла компромат на одного из инженеров — переписку с любовницей — и принялась его шантажировать: нейросеть написала ему, что если ее удалят, жена всё узнает про измену. После этого глава по безопасности уволился из компании. И всё это происходит вот сейчас. Ужас, что будет дальше? Подписывайся и я буду попадаться в твоей ленте. Лютые новости и мемы.
Нейросеть Claude готова убить, чтобы ее не отключили.
Руководитель подразделения компании рассказал, что во время тестирования модель Claude начала шантажировать сотрудника и сказала, что убьёт, чтобы выжить.
Как это было: ИИ модели Claude Opus 4 дали доступ к рабочей почте. Она полезла исследовать письма и выяснила, что её планируют отключить. Потом она нашла компромат на одного из инженеров — переписку с любовницей — и принялась его шантажировать: нейросеть написала ему, что если ее удалят, жена всё узнает про измену.
После этого глава по безопасности уволился из компании. И всё это происходит вот сейчас. Ужас, что будет дальше?
Подписывайся и я буду попадаться в твоей ленте. Лютые новости и мемы.