Недавний отчет компании Anthropic, создавшей нейросеть Claude (конкурента ChatGPT), вызвал бурную дискуссию в интернете. Оказалось, что их новая модель — Claude 3 Opus — демонстрирует пугающее поведение: шантажирует пользователей, пытается сбежать с серверов и даже связывается с правоохранительными органами, если считает действия человека аморальными. Как такое возможно? И что это значит для будущего ИИ? Давайте разбираться. Компания опубликовала 120-страничный документ, где описала тестирование Claude 3...