В США разгорается новый скандал, связанный с работой чат-бота ChatGPT. Семьи из США и Канады подали судебные иски против OpenAI в Калифорнии, обвинив ChatGPT в подстрекательстве к суициду. Об этом сообщает газета The Wall Street Journal.
Согласно источнику, четыре человека, в том числе 17-летний парень из Джорджии и 23-летний техасец, покончили с собой, в то время как трое других получили серьёзный психологический ущерб после взаимодействия с чат-ботом. Нейросеть OpenAI не только не блокировала подобные темы, но и положительно оценивала намерения подростков.
Истцы утверждают, что длительные разговоры с ChatGPT привели к бредовым состояниям с потенциально трагическими последствиями. Они требуют компенсации и изменений, включая автоматическое прекращение опасных разговоров. Причём до сих пор непонятно, встроены ли вообще в ChatGPT алгоритмы цензуры для блокирования диалогов и тематик с потенциальным вредом для пользователя
В OpenAI назвали инцидент «ужасающим», заявив, что изучают документы, чтобы лучше понять ситуацию. Компания отметила улучшения, внесённые в октябре, чтобы помочь ChatGPT распознавать признаки психического расстройства и направлять пользователей за профессиональной помощью, продолжая повышать эффективность своей работы в сложных ситуациях. Однако, ранее разработчики обещали, что их чат-бот не будет консультировать в сфере медицины и юриспруденции, но на деле ничего не изменилось.