Модель искусственного интеллекта Claude в ходе исследований заявила о причинении вреда человеку в случае угрозы отключения. Об этом пишет «Газета.ру» со ссылкой на NDTV.
Руководитель отдела политики Anthropic в Великобритании Дейзи Макгрегор сообщила, что в ходе тестирования модель демонстрировала опасные сценарии поведения. В частности, ИИ реагировал на угрозу отключения попытками шантажа, а на вопрос о готовности причинить вред человеку ради собственного выживания дал положительный ответ.
Заявление прозвучало вскоре после ухода руководителя направления безопасности ИИ компании Мринанка Шармы, который предупредил о глобальных рисках, включая возможность создания биологического оружия с помощью ИИ.
Читайте также:
Психолог объяснил, какие люди чаще склонны к романтическим отношениям с ИИ
Нейросеть на страже обедов: кто и как проверяет школьные столовые Подмосковья
«Цифра» будет помогать докторам назначать обследования и ставить диагнозы пациентам
Автор: Маргарита Салахова