В ответах чат-бота стали слишком часто появляться упоминания гоблинов, троллей и других фантастических существ. В компании OpenAI объяснили, что необычная особенность возникла из-за одной из старых настроек стиля общения. Речь идет о так называемом «гиковском» стиле. Этот режим использовался сравнительно редко — примерно в одном ответе из сорока. Однако именно на него, по данным компании, пришлось около двух третей всех случаев употребления слова «гоблин». Позже этот стиль общения убрали. В компании отметили, что при его разработке система случайно получила поощрение за использование метафор с участием существ вроде гоблинов, троллей и огров. Из-за этого такие слова начали появляться заметно чаще, чем ожидали разработчики. По данным компании, от одной версии модели к другой число упоминаний гоблинов выросло почти в 40 раз. После этого в новую версию добавили специальное правило. Оно предписывает не использовать подобные слова без явной необходимости. Рекомендуем также: