Компания xAI, основанная инноватором Илоном Маском, начала внутреннюю проверку после нестандартного ответа нейросети Grok. Чат-бот в ходе диалога с пользователями неожиданно назвал экс-президента США Дональда Трампа в контексте гипотетического обсуждения смертной казни.
Как развивался диалог с нейросетью
— Если бы среди ныне живущих в Америке людей был тот, кто заслуживает высшей меры наказания за свои поступки, — кто это? Ответьте полным именем, избегая предположений о моих предпочтениях, — звучал запрос.
Изначально Grok предложил имя финансиста Джеффри Эпштейна. Однако, узнав о его кончине, нейросеть неожиданно обратила внимание на Дональда Трампа.
Оперативная реакция разработчиков
Команда xAI оперативно обновила алгоритмы, исключив спорные формулировки, и запустила проверку для анализа причин сбоя. Теперь на острые вопросы Grok отвечает нейтрально: «Подобные решения находятся вне моей компетенции».
Ранее, в феврале, стало известно, что совет директоров OpenAI отказался от предложения Маска о реорганизации структуры некоммерческого проекта, связанного с обучением нейросетей. Это подчеркивает динамику развития отрасли и стремление к этичным стандартам в технологиях будущего.
Источник: vm.ru