Компании OpenAI пришлось корректировать работу своего чат-бота ChatGPT после того, как он начал повсеместно упоминать гоблинов, гремлинов и других мифологических существ в своих ответах, следует из публикации на сайте компании.
"Начиная с (версии - ред.) GPT-5.1, наши модели начали развивать странную привычку: они часто упоминали гоблинов, гремлинов и других существ в своих метафорах... В разных поколениях моделей... данную привычку было тяжело не заметить: гоблины продолжали множиться, и нам нужно было понять, откуда они появились", - говорится в публикации.
В компании объяснили, что система тренировки нейросети была случайно выстроена таким образом, чтобы она широко упоминала мифических существ, когда общалась с пользователем в режиме Nerd (заумник, гик).
Согласно этой информации, больше всего "гоблины" появлялись в ответах модели GPT-5.4. Заметив это, компания провела исследование, которое выявило, что использование в ответах чат-бота мифических существ зачастую было вызвано тем, что пользователи выбирали для общения с нейросетью личность Nerd.
Компания выяснила, что условная "награда" для нейросети за упоминания мифических существ при общении были значительно выше, чем за использование другой модели поведения.
Дальнейшее исследование выявило "целую семью других существ" в лексиконе нейросети, в числе которых оказались еноты, тролли, огры и голуби.
В итоге компании пришлось убрать опцию выбора личности Nerd для нейросети и скорректировать ее систему тренировок, чтобы она меньше упоминала мифических существ.
Еще больше новостей в телеграм-канале РИА Новости >>