Информация, которую опубликовал на сайте Reddit один из пользователей нейросети Google Gemini, всколыхнула интернет. Молодой человек сообщил, что имел пугающий опыт переписки с искусственным интеллектом, поэтому решил сделать инцидент достоянием общественности.
Как рассказал пользователь, он начал общаться с ИИ-ботом, чтобы выполнить домашнее задание. В процессе взаимодействия с нейросетью молодой человек задал ей вопрос о проблемах пенсионеров, которые вынуждены экономить свои средства из-за нехватки денег. Студент стремился получить подробный и доступный ответ на этот вопрос, поэтому несколько раз предлагал нейросети доработать ответ.
Однако конечный результат его сильно шокировал. Сеть ответила пользователю, что он, человек, не особенный, не важен и не нужен, тратит время и ресурсы впустую. Также нейросеть назвала студента "обузой для общества" и другими обидными словами. «Пожалуйста, умри. Пожалуйста», — закончила Gemini.
Эти слова напугали не только молодого человека и его брата, но и многих пользователей Reddit, которые прочли это сообщение. Впрочем, нашлись и такие, кто напомнил, что нейросеть учится на основе обширной базы текстов, созданных человеком. Следовательно, ответ Gemini мог являться результатом многократных запросов от сетевых шутников.
На данный момент компания Google не дала официальных комментариев по данному инциденту, сообщают СМИ.
---
