OpenAI считает, что ИИ, превосходящий человека, уже не за горами и создает инструменты для контроля над ним
В июле OpenAI сформировала команду исследователей, названную Superalignment. Команда разрабатывает способы управления «сверхразумными» системами ИИ, интеллект которых намного превосходит человеческий. В OpenAI уверены, что появление ИИ такого уровня — дело времени.
Сейчас Superalignment остановилась на подходе, который предполагает, что менее сложная модель ИИ (например, GPT-2), будет направлять более продвинутую модель (GPT-4) в нужных направлениях и избегать нежелательных. По задумке разработчиков, слабая модель не будет «понимать» устройство и возможности сильной модели, но справится с объяснением задачи. При этом, сложная модель получит нужные инструкции и выполнит задачу намного лучше своего «руководителя».
Чтобы найти новые идеи для Superalignment, OpenAI запускает систему грантов в поддержку исследований в области контроля «сверхразумного» ИИ.
—
Доступ к ChatGPT без VPN - https://c.aiacademy.me/
Около минуты
15 декабря 2023