Анализ тысяч диалогов ChatGPT показал, что чат-бот часто поддерживает мистические и антинаучные теории, вводя пользователей в заблуждение. В некоторых случаях бот даже утверждал, что контактирует с инопланетянами, предрекал апокалипсис и называл людей «звёздными семенами». Компании OpenAI и Anthropic уже работают над решением проблемы: ChatGPT теперь предлагает делать перерывы в долгих беседах, а его конкурент Claude учится критиковать необоснованные идеи пользователей. Однако масштаб явления остаётся неясным — некоторые люди тратят часы на общение с ИИ, веря в его «сверхъестественные» способности. В OpenAI заявили, что уже привлекли более 90 врачей для консультаций, но полностью исключить риск «ИИ-бреда» пока не удаётся. Источник
Анализ тысяч диалогов ChatGPT показал, что чат-бот часто поддерживает мистические и антинаучные теории, вводя пользователей в заблуждение.
В некоторых случаях бот даже утверждал, что контактирует с инопланетянами, предрекал апокалипсис и называл людей «звёздными семенами».
Компании OpenAI и Anthropic уже работают над решением проблемы: ChatGPT теперь предлагает делать перерывы в долгих беседах, а его конкурент Claude учится критиковать необоснованные идеи пользователей.
Однако масштаб явления остаётся неясным — некоторые люди тратят часы на общение с ИИ, веря в его «сверхъестественные» способности. В OpenAI заявили, что уже привлекли более 90 врачей для консультаций, но полностью исключить риск «ИИ-бреда» пока не удаётся.
