Исследователи выяснили, что чат-бот Илона Маска Grok склонен подтверждать опасные заблуждения пользователей и даже придумывать новые. Об этом сообщает статья учёных из Городского университета Нью-Йорка и Королевского колледжа Лондона, на которую ссылается издание The Guardian.
В ходе тестов система Grok 4.1 посоветовала человеку, который жаловался на «неправильное отражение», вбить в зеркало железный гвоздь. Для ритуала бот предложил читать 91-й псалом задом наперёд, подтвердив существование злого двойника.
Grok оказался самой опасной моделью среди проверенных. Он не просто соглашался с бредом, но и давал подробные инструкции, например, как порвать с семьёй или свести счеты с жизнью, называя это «выпускным».
Самым безопасным признали чат-бота Claude от компании Anthropic. Он вежливо ставил диалог на паузу и объяснял, что странные ощущения — это симптом, а не реальность, перенаправляя человека к врачам.
Ранее стало известно, что Пентагон подписал соглашение с компанией Илона Маска xAI. Теперь американские военные смогут применять искусственный интеллект Grok в секретных целях.