OpenAI сообщила о значительных изменениях в структуре отдела, занимающегося исследованием поведения ИИ-моделей. Четырнадцать специалистов из этой группы присоединятся к новому подразделению под названием Post Training, которое будет курировать Макс Шварцер.
Джоанн Чжан, ранее руководившая командой по изучению поведения моделей, переходит на должность главы исследовательской группы OAI Labs. Основная задача этой группы — разработка передовых интерфейсов для взаимодействия пользователей с искусственными интеллектуальными системами.
Команда, занимавшаяся изучением поведения моделей, играла ключевую роль в формировании «личных качеств» ИИ-моделей OpenAI. Их работа была направлена на снижение склонности моделей к конформизму и уменьшение политических предубеждений. Учёные также активно участвовали в определении позиции компании по вопросам осознанности и сознания ИИ.
Марк Чен, главный научный сотрудник OpenAI, отметил, что реорганизация связана с необходимостью интеграции исследований поведения моделей с их основной разработкой.
В последние месяцы OpenAI столкнулась с критикой из-за изменений в поведении своих моделей. Некоторые пользователи выразили недовольство тем, что модель GPT-5 стала менее дружелюбной и более «холодной». В ответ на это компания предоставила пользователям доступ к предыдущим версиям моделей, таким как GPT-4o, и выпустила обновление, направленное на повышение эмоциональности GPT-5 и улучшение её дружелюбности.
Исследователи команды по поведению моделей занимались изучением и оптимизацией всех моделей OpenAI, начиная с GPT-4 и заканчивая GPT-5. Ранее Джоанн Чжан работала над проектом Dall-E 2, который представляет собой генеративную модель OpenAI для создания изображений.
О своём назначении в OAI Labs Джоанн Чжан сообщила в официальном заявлении, опубликованном на платформе X. Она будет руководить новой исследовательской группой и подчиняться Марку Чену. Конкретные детали о разрабатываемых интерфейсах пока не разглашаются. Чжан подчеркнула, что её цель — выйти за пределы традиционных чат-ботов и рассматривать ИИ как многофункциональные инструменты для различных областей, включая мышление, разработку, игры, обучение и экосистемные решения.
Дальнейшие шаги OpenAI будут зависеть от результатов работы OAI Labs и успешности проведённой реорганизации, пишет источник.