Добавить в корзинуПозвонить
Найти в Дзене

довольно широко обсуждается проблема доверия к ИИ (в ИСП РАН есть целый научный центр по этому поводу), а тут коллеги из Израиля решили

поставить обратную задачу - как ИИ доверяет человеку заглавная картинка как раз из этой статьи, интересны на ней две вещи: корреляцию с доверием модели показывают в небольшой степени с благими намерениями, больше с компетентностью и еще больше с тем, что коллеги назвали integrity; это то, насколько убеждения другого человека совпадают c твоими собственными (как они это меряли у моделей можно прочесть в статье) вторая интересная вещь, это отношение людей - люди обладают гораздо большим разбросом, но массово не верят в добрые намерения P.S. эта работа еще раз подтверждает, что в LLM какие-то убеждения уже заложены создателями, может быть даже помимо их желания @valuableai

довольно широко обсуждается проблема доверия к ИИ (в ИСП РАН есть целый научный центр по этому поводу), а тут коллеги из Израиля решили поставить обратную задачу - как ИИ доверяет человеку

заглавная картинка как раз из этой статьи, интересны на ней две вещи: корреляцию с доверием модели показывают в небольшой степени с благими намерениями, больше с компетентностью и еще больше с тем, что коллеги назвали integrity; это то, насколько убеждения другого человека совпадают c твоими собственными (как они это меряли у моделей можно прочесть в статье)

вторая интересная вещь, это отношение людей - люди обладают гораздо большим разбросом, но массово не верят в добрые намерения

P.S. эта работа еще раз подтверждает, что в LLM какие-то убеждения уже заложены создателями, может быть даже помимо их желания

@valuableai