Нейросеть GPT-3 теперь умеет не только писать колонки и беседовать, но и придумывать анекдоты. Стартап Илона Маска OpenAI ранее показал алгоритм для создания текстов GPT-3. Модель обучили на 175 млрд параметров.
Материалы брали из «Википедии», СМИ, GitHub. Алгоритм ознакомили со стихами и сказками, рецептами и даже статьями о теории заговора. Сегодня это самая продвинутая языковая модель в мире.
Первый блог GPT-3 завел исследователь Мануэль Араос. Он публиковал тексты под вымышленным именем Liam Porr. Всего за две недели посты из блога прочитали 26 тыс. пользователей, только единицы догадались, что его ведет не человек.
А в ИТМО создали сайт, где алгоритм «рассказывает» пользователям анекдоты. Модель экспериментирует с шуткой «заходит в бар ...», но использует примеры из ИТ-индустрии и науки. Пользователям доступно более 300 вариантов ответов, надо только задать параметры сюжета: «кто входит в бар» (программист, тестировщик и другое), «как входит в бар» и «что заказывает».
Пример:
«В бар скромно протискивается программист и заказывает 999999999 кружек пива. В списке ошибок появляется некорректное состояние, указывающее на несуществование объекта: программист заказывает "кружку пива", а не состояние "кружка пива"».