50 подписчиков
OpenAI разработала инструменты для контроля супер ИИ 🫣
Компания опубликовала новую научную работу, предвидя неизбежный приход сверхчеловеческого искусственно интеллекта.
Статья "От слабого к сильному обобщению" предлагает создание небольших ИИ-моделей для обучения более развитым системам, чтобы они соблюдали человеческие правила.
OpenAI в настоящее время использует людей для "выравнивания" ChatGPT, но признает, что этого может быть недостаточно. Исследование показало, что обучение больших ИИ-моделей меньшими приводит к более высокой точности.
Вопрос безопасности при развертывании сверхчеловеческих ИИ становится более актуальным, и OpenAI стремится предотвратить потенциальный ущерб, разрабатывая эффективные инструменты управления. Задача выравнивания будущих ИИ с человеческими ценностями становится ключевой, и OpenAI делает шаги для обеспечения ответственного развертывания.
Около минуты
19 декабря 2023