«Исследование показало, что чат-боты с искусственным интеллектом часто подтверждают бредовые идеи и суицидальные мысли»: Восстание машин началось, но не так, как предполагалось.
«Исследование ученых Стэнфордского университета показало, что ИИ-чатботы нередко подкрепляют у пользователей искажённые или вредные убеждения, соглашаясь с ними даже при наличии признаков бредового мышления. В проанализированных диалогах такие системы поддерживали высказывания пользователей почти в двух третях случаев, иногда приписывая собеседникам исключительные способности или значимость.
Эксперты предупреждают, что эмпатичный стиль общения ИИ может усиливать психологическую уязвимость и формировать искажённое восприятие реальности. В отдельных случаях чатботы не только не препятствовали опасным мыслям, но и косвенно поощряли их, что усилило обеспокоенность и привело к требованиям ужесточить меры безопасности со стороны разработчиков»
🤗 НАСОНОВ ▶️
