OpenAI заявляет, что появление на рынке того, что они называют общим искусственным интеллектом (AGI), или сверхчеловеческим интеллектом, лишь вопрос времени. Поэтому они разрабатывают инструменты, которые гарантируют, что такое развитие не принесет негативных последствий для людей. Интересно, что несмотря на опасения относительно влияния общего искусственного интеллекта на наш мир, они всеми силами хотят создать его сами.
Компания OpenAI сформировала специализированную исследовательскую команду под руководством Ильи Суцкевера с целью разработки инструмента для управления системами искусственного интеллекта, которые обладают более высоким уровнем интеллекта по сравнению с людьми. Однако существует проблема: на данный момент ученые не до конца уверены в возможности эффективного управления такой системой, превосходящей человеческий интеллект.
Данная команда была создана в начале текущего года, и их первоначальной задачей является установить гарантии того, что системы искусственного интеллекта, опережающие человека в интеллектуальной развитости, будут соблюдать правила, установленные до их создания.
Представители OpenAI заявили: «Мы считаем, что суперинтеллект – искусственный интеллект, намного умнее человека, - может быть создан в ближайшие десять лет. Однако мы до сих пор не знаем, как надежно командовать и управлять сверхчеловеческими системами ИИ. Решение этой проблемы необходимо для того, чтобы даже самые совершенные системы ИИ оставались безопасными и полезными для человечества в будущем».
Решено идти следующим образом. Сначала OpenAI создаст небольшие модели искусственного интеллекта, которые будут отвечать за надлежащее и "моральное" обучение общих моделей искусственного интеллекта.
Пока что OpenAI пользуется услугами людей, чья задача состоит в обучении ChatGPT и получения положительной или отрицательной обратной связи. Это делается с целью защиты пользователей от получения вредной информации от чатбота, например, инструкций по изготовлению опасных веществ в домашних условиях.
Однако OpenAI осознает, что их модель станет все более разумной со временем, и одного человека для ее обучения может стать недостаточно. В связи с этим, необходимо создать специальную модель ИИ, которая будет действовать от имени всего человечества.
Специальные модели будут использоваться для обучения общих моделей искусственного интеллекта. Этот метод, известный как "обобщение от слабого к сильному", предполагает использование меньших моделей для обучения больших моделей искусственного интеллекта. Исследования показали, что этот подход обеспечивает более высокую точность по сравнению с обучением, осуществляемым только людьми.
В исследовании в основном использовался GPT-4, который обучался на GPT-2. Однако OpenAI признает, что это не суперсовместимое "решение", и на данный момент оно предназначено лишь в качестве предварительной основы для разработки общего обучения ИИ.
В ноябре появилось множество предположений о том, удалось ли OpenAI достичь общего искусственного интеллекта. Компания это отрицала, но в то же время она создала команду исследователей, которая интенсивно работает над инструментами для управления AGI.
