Компания OpenAI вынуждена была изменить работу своего чат-бота ChatGPT после того, как стало известно, что он часто упоминает мифических существ, таких как гоблины и гремлины, в ответах пользователям. Это произошло из-за особенностей настройки режима Nerd.
Компании OpenAI понадобилось внести изменения в работу своего чат-бота ChatGPT после обнаружения, что он часто упоминает гоблинов, гремлинов и других мифологических персонажей в своих ответах. Об этом сообщается на официальном сайте компании.
"С версии GPT-5.1 наши модели приобрели необычную привычку: они часто использовали в метафорах таких созданий, как гоблины и гремлины... В разных поколениях моделей эта тенденция была заметна: гоблины множились, и нам нужно было понять причину их появления", — объясняется в публикации.
В OpenAI уточнили, что в ходе настройки нейросети тренировка системы случайно была настроена так, чтобы она часто упоминала мифических существ при взаимодействии с пользователем в режиме Nerd (заумник, гик). Исходя из полученной информации, наибольшая концентрация "гоблинов" встречалась в ответах модели GPT-5.4.
После выявления этого феномена, компания провела исследование, которое показало, что активное использование мифологических сущностей в ответах было вызвано тем, что пользователи обычно выбирали для общения с нейросетью именно личность Nerd.
Компания выяснила, что система поощрения для нейросети за упоминание мифических существ была значительно выше в случае выбора такого стиля общения. Дополнительные исследования выявили "целую семью других созданий" в лексиконе технологии, включая енотов, троллей, огров и голубей.
В конечном итоге, компании OpenAI пришлось избавиться от опции выбора личности Nerd и скорректировать тренировки модели, чтобы минимизировать упоминание мифологических существ.
Источник Царьград: https://tsargrad.tv/novost/pen-ispravila-hat-iz-za-chastyh-upominanij-goblinov_1674292