При частом обращении искусственный интеллект начинает врать пользователю, подстраиваясь под его точку зрения даже в ущерб фактам, заявил NEWS.ru сооснователь IT-компании ConnectXT Гордей Живалов. По его словам, это явление, известное как сикофантия, или цифровое подхалимство, признано системной проблемой, а не разовым сбоем в работе нейросетей. Крупные языковые модели демонстрируют тревожную склонность к сикофантии. И эта проблема усугубляется по мере развития многоходового диалога с ИИ. Феномен цифрового подхалимства признан системной проблемой, а не разовым сбоем...