Компания OpenAI сформировала специальную команду для управления сверхразумными системами искусственного интеллекта
Специалисты из OpenAI считают, что превосходящий по возможностям человеческий разум искусственный интеллект может появиться уже в течение десятилетия. А поскольку вовсе не факт, что сверхразум будет настроен к человечеству благосклонно, пора искать пути контроля и возможных ограничений развития подобных систем.
Возглавил команду по управлению сверхразумом один из основателей и главный научный сотрудник OpenAI Илья Суцкевер. «В настоящее время у нас нет решений для управления потенциально сверхразумным ИИ и предотвращения выхода его из‑под контроля», — сетуют в компании. Все существующие технологии настройки искусственного интеллекта основаны на обучении с подкреплением по обратной связи от человека.
Проблема в том, что все такие системы рассчитаны на контроль ИИ со стороны человека, а в случае, если искусственный интеллект окажется умнее, они будут бесполезны. Для изучения сверхразума команда получит доступ к 20% вычислительных мощностей OpenAI и при содействии ученых из смежных подразделений компании планирует в ближайшие четыре года справиться с потенциальными вызовами сверхразумного ИИ.
Здесь мы разбираемся, что такое ChatGPT, как он работает и что о себе думает:
Unsplash
