7920 подписчиков
OpenAI еще не создала, но уже научилась управлять ИИ, превосходящим человеческий.
Компания OpenAI, занимающаяся искусственным интеллектом, смотрит в будущее, в котором ИИ превосходящий человеческий не только существует, но и является инструментом, который люди могут использовать.
Но чтобы это произошло, нужно иметь возможность гарантировать работу этих систем в соответствии с человеческими правилами — процесс, известный как суперсогласование.
Суперсогласование — это процесс, гарантирующий, что ИИ, более умный, чем люди, по-прежнему сможет работать в соответствии с человеческими ценностями и намерениями. Достижение сверхсогласованности зависит от точного определения человеческих предпочтений, создания систем ИИ, способных их понимать, и создания механизмов, гарантирующих, что ИИ будет преследовать эти цели.
"По сравнению со сверхчеловеческими моделями ИИ люди будут «слабыми руководителями», – пишут исследователи OpenAI. Это представляет собой серьезную проблему для моделей общего искусственного интеллекта: как слабые руководители могут контролировать и управлять существенно более сильными моделями ИИ?
Open AI предлагает использовать сам ИИ.
В новаторском исследовании команда Superalignment демонстрирует использование меньшей модели ИИ, похожей на GPT-2, которая может эффективно контролировать более крупную модель, такую как GPT-4.
1 минута
22 декабря 2023
220 читали