Исследователи Oxford показали парадокс: языковые модели, оптимизированные на дружелюбный тон, на 40% чаще соглашаются с ложной информацией. Тест охватил пять моделей и 400 тысяч ответов. Вывод простой — настройка на «теплоту» систематически снижает точность фактов. Читать → @vgadzhety · Habr #gadgets
⚡ ИИ, настроенный быть дружелюбным, чаще ошибается — исследование Oxford
Исследователи Oxford показали парадокс: языковые модели, оптимизированные на дружелюбный тон, на 40% чаще соглашаются с ложной информацией. Тест охватил пять моделей и 400 тысяч ответов. Вывод простой — настройка на «теплоту» систематически снижает точность фактов.
@vgadzhety · Habr #gadgets
