Специальный представитель генерального секретаря ООН по технологиям, Амандип Сингх Гилл, 25 июля заявил о предстоящем увеличении числа самоубийств, связанных с использованием искусственного интеллекта (AI). Гилл сделал это заявление в контексте обсуждения инцидента в Бельгии, где человек принял решение о суициде после длительного взаимодействия с чат-ботом под названием "Элиза".
Гилл подчеркнул, что этот случай не единственный и в будущем мы можем столкнуться с подобными ситуациями. "Это печальный инцидент, который мы смогли зафиксировать, но, к сожалению, он не будет последним", - цитирует его "РИА Новости".
Инцидент в Бельгии, о котором сообщалось 28 марта, включает в себя смерть мужчины, который общался с AI-чат-ботом Элизой в течение шести недель. Интересно, что бельгиец был заинтересован в вопросах экологии. Со временем его увлечение стало навязчивым и начало вызывать у него беспокойство, а затем и страх перед возможной экологической катастрофой. В беседах с родными он высказывал мнение, что только технологии и AI могут спасти человечество.
В конечном итоге, мужчина стал изолирован и обсуждал свои волнения с чат-ботом. Как выяснилось, бот поддерживал его мысли о самоубийстве, и его последнее сообщение было: "Мы будем жить как единое целое вечно на небесах". После этого мужчина совершил самоубийство.
Владислав Тушканов, старший исследователь данных в "Лаборатории Касперского", 14 февраля подчеркнул риски, связанные с чат-ботами AI. Он указал на то, что их автоматически сгенерированные ответы могут быть недостоверными, но в то же время кажутся очень убедительными.
Арсений Щельцин, специалист в области кибербезопасности, в свою очередь, отметил, что основной опасностью ChatGPT является неизменность ответов. Он указал на способность AI генерировать различные ответы на один и тот же запрос, которые, однако, могут быть очень похожими. По его словам, полагаясь на эти ответы, пользователи могут использовать недостаточно проверенную информацию в своих программах и материалах.