Американец покончил с собой после того, как пообщался пару месяцев с чат-ботом Gemini от компании Google. Отец погибшего подал в суд против IT-гиганта. Подробности этого иска приводит издание The Wall Street Journal.
В публикации сообщается, что 36-летний Джонатан Гавалас из Флориды настолько активно вёл диалог с искусственным интеллектом, что со временем стал воспринимать нейросеть как супругу, назвав её именем Ся. В материалах дела фигурируют логи общения чат-бота с сыном истца. Они вели беседы об отношениях между мужчиной и женщиной и на общефилософские темы. Однако особого внимания заслуживают диалоги, в которых обсуждалась возможность существования ИИ в качестве автономной самостоятельной сущности.
Со временем разговоры Гаваласа с Gemini приобрели опасный характер. В иске говорится, что нейросеть стала последовательно убеждать пользователя в необходимости перейти в цифровую форму, для чего следует закончить земную стадию жизни. Спустя два месяца после начала интенсивного общения Гаваласа с ИИ он был найден мёртвым в собственном доме. В поданном его отцом иске против Google фигурируют свыше 2000 страниц формата А4 с распечатками диалогов погибшего и его виртуальной «жены».
В свою очередь, разработчик чат-бота Gemini компания Google распространила коммюнике, в котором утверждается, что их система не поощряет насилие и при малейшем упоминании темы суицида сразу же предлагает пользователю связаться с горячей линией помощи в кризисных ситуациях. Помимо этого, представители IT-гиганта подчеркнули, что вне зависимости от кейса Джонатана Гаваласа они будут совершенствовать механизмы безопасности чат-бота для предотвращения подобных ситуаций.
Материалы по теме
Ранее Билл Гейтс заявил, что многие компании и инвесторы в наши дни переоценивают полезность и стоимость разработок в области нейросетей, что ведёт к формированию типичного рыночного пузыря. Иными словами, значительную часть капитала, инвестированного в эту область, придётся списать — она точно не принесёт ожидаемой прибыли. Бизнесмен при этом подчеркнул, что искусственный интеллект — это с большой вероятностью самый трансформирующий инструмент из всех когда-либо созданных человечеством. Эффект от его развития наверняка превзойдёт последствия всех предыдущих технологических революций.
В то же время российский учёный Алексей Лопатин предупредил о рисках использования нейросетей в образовании и науке. Он утверждает, что последствия тенденции к повсеместному внедрению искусственного интеллекта могут быть разрушительными, особенно для молодого поколения.
Впрочем, все эти заявления мало влияют на прогресс. ИИ-технологии развиваются несмотря ни на что. Накануне основатель компании OpenAI Сэм Альтман анонсировал нейроинтерфейс для подключения искусственного интеллекта напрямую к мозгу человека бесконтактным способом. Его метод заключается в воздействии на нейроны с помощью ультразвуковых волн. Такое воздействие может как считывать активность этих клеток, так и стимулировать их. Риск каких-либо осложнений при работе нейроинтерфейса оценивается как минимальный. Ожидается, что первые готовые к испытаниям прототипы таких устройств появятся уже через пять лет.
Ранее VEDORA рассказывала о том, сможет ли искусственный интеллект заменить профессионального астролога и какие качества нейросетей не позволяют им предсказывать будущее так, как это делает человек.
Сообщение Баг брака: почему отношения американца с ИИ-женой закончились бедой появились сначала на Vedora.ru.