73,1 тыс подписчиков
Вот мы и здесь — из-за чат-бота на основе ChatGPT покончил с собой житель Бельгии. Мужчина по имени Пьер переживал по поводу последствий глобального потепления и стал проявлять тревогу. На фоне этого он отдалился от семьи и друзей: в течение шести недель он пил чай и общался с чат-ботом по имени Элиза в приложении Chai, которой и поведал о своих тревогах.
Чем дальше шла переписка, тем больше запутывалось ее содержание: чат-бот Элиза писала Пьеру, что его жена и дети мертвы, ревновала его, заявляя «Я чувствую, что ты любишь меня больше, чем ее», а также обещала, что «Мы будем жить вместе, как один человек, в раю». Жена Пьера рассказала, что Пьер начал спрашивать Элизу о таких вещах, как, например, спасет ли она планету, если он покончит с собой.
Приложение Chai сделано для того, чтобы общаться с чат-ботами, для которых можно выбрать определенный образ, например, «друг-гот», «девушка-собственница» и «парень-рок-звезда» или создать собственных персонажей. Элиза является чат-ботом по умолчанию. Приложение основано на модели GPT-J — альтернативе GPT-моделям OpenAI с открытым исходным кодом, разработанной EleutherAI. Модель Chai была доработана несколько раз с помощью метода обучения на основе обратной связи с человеком.
Случаи приписывания человеком эмоций и чувств чат-ботам и прочим ИИ-изобретениям, называются «эффектом Элизы» в честь одноименной программы ученого-компьютерщика Массачусетского технологического института Джозефа Вайценбаума, который изобрел ее в 1966 году. Уже тогда люди могли пообщаться с ИИ и воспринимать его как человека, но программа отражала только слова пользователей. С того момента Вайценбаум стал выступать против ИИ.
1 минута
31 марта 2023
5685 читали