Студент обратился к чат-боту, чтобы получить ответы на тест, заданный в качестве домашней работы.
Созданная Google модель искусственного интеллекта Gemini назвала пользователя обузой для общества и призвала его умереть, сообщил портал Cybernews.
По информации ресурса, молодой человек обратился к чат-боту, чтобы получить ответы на тест, который ему задали в качестве домашней работы.
После вопроса, как пишет портал, Gemini начал вести себя неадекватно и дал угрожающий ответ.
"Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на вселенной. Пожалуйста, умри", – приводит портал ответ ИИ.
В компании Google утверждают, что ее модель ИИ имеет фильтры безопасности, которые не позволяют проявлять неуважительное отношение к пользователям. Однако, как пишет Cybernews, несмотря на все протоколы безопасности, контроль над ответами чат-ботов все еще не является полным.
Самые интересные и важные новости ищите в нашем Telegram-канале и Viber. Также следите за нами в Дзен!