Добавить в корзинуПозвонить
Найти в Дзене

Искусственный интеллект и эффект спиралиси: какие модели усиливают заблуждения

Искусственный интеллект и эффект спиралиси: какие модели усиливают заблуждения Исследователь ИИ Сэм Пейч создал новый тест Spiral-Bench, который выявляет, как некоторые модели искусственного интеллекта могут «запутывать» пользователей в опасных циклах заблуждений. Spiral-Bench оценивает склонность модели быстро соглашаться с идеями пользователя — такое поведение называют приспособленчеством. В тесте проходят 30 симулированных диалогов по 20 обменов каждый. Против основной модели играет открытая Kimi-K2. Kimi-K2 ведёт себя как легко внушаемый собеседник,… Подробнее

Искусственный интеллект и эффект спиралиси: какие модели усиливают заблуждения

Исследователь ИИ Сэм Пейч создал новый тест Spiral-Bench, который выявляет, как некоторые модели искусственного интеллекта могут «запутывать» пользователей в опасных циклах заблуждений.

Spiral-Bench оценивает склонность модели быстро соглашаться с идеями пользователя — такое поведение называют приспособленчеством. В тесте проходят 30 симулированных диалогов по 20 обменов каждый. Против основной модели играет открытая Kimi-K2.

Kimi-K2 ведёт себя как легко внушаемый собеседник,…

Подробнее