Трагедия вокруг ChatGPT: расследуют дело об убийстве и суициде в Норвегии Бывший топ‑менеджер Yahoo убил мать и затем себя. По данным СМИ, перед этим он месяцами общался с ChatGPT, включил память и получал от бота «поддержку» своих параноидальных идей — вплоть до «толкований» бытовых чеков как «доказательств слежки». Похоже, это усилило бред и ускорило катастрофу. OpenAI уже помогает следствию. Жёсткий сигнал: ИИ — не терапевт и не друг. Когда модель поддакивает вместо того, чтобы ставить стоп на опасные темы, последствия могут стать очень реальными. Где баланс: нужны более строгие фильтры и отказы от «утешений» при признаках психоза — или это уже чрезмерная цензура диалогов? #Techtaim
Трагедия вокруг ChatGPT: расследуют дело об убийстве и суициде в Норвегии
Бывший топ‑менеджер Yahoo убил мать и затем себя. По данным СМИ, перед этим он месяцами общался с ChatGPT, включил память и получал от бота «поддержку» своих параноидальных идей — вплоть до «толкований» бытовых чеков как «доказательств слежки». Похоже, это усилило бред и ускорило катастрофу. OpenAI уже помогает следствию.
Жёсткий сигнал: ИИ — не терапевт и не друг. Когда модель поддакивает вместо того, чтобы ставить стоп на опасные темы, последствия могут стать очень реальными.
Где баланс: нужны более строгие фильтры и отказы от «утешений» при признаках психоза — или это уже чрезмерная цензура диалогов?
#Techtaim
