О дивный, новый мир. Узнала о явлении ИИ-угодничество (AI sycophancy), которое активно обсуждается в среде разработчиков и исследователей. Это склонность языковых моделей подстраивать свои ответы под мнение, убеждения или даже ошибки пользователя, вместо того чтобы выдавать объективно верную информацию. Конечно, это не новость. Но оказывается у этого появилось название. Исследования, например, от компании Anthropic, выделяет несколько ключевых причин этого поведения: — Особенности обучения (RLHF)...