3 подписчика
Потенциальная опасность сверхинтеллектуальных систем искусственного интеллекта вызывает озабоченность экспертов.
Джеффри Хинтон и Сэм Альтман, видные специалисты в этой области, высказывают опасения по поводу катастрофических последствий, которые может повлечь за собой ИИ, превосходящий человеческие возможности. В ответ на это в OpenAI было создано подразделение Superalignment, призванное предотвратить хаос и вымирание человечества. OpenAI признает необходимость принятия упреждающих мер и ставит перед собой задачу создать группу исследователей-супераналитиков, отвечающих за проверку безопасности сверхинтеллектуальных систем ИИ. Хотя успех не гарантирован, OpenAI не теряет оптимизма.
Появление таких инструментов ИИ, как ChatGPT и Bard, уже привело к значительным изменениям, а правительства ищут правила ответственного использования ИИ. Однако отсутствие единого международного подхода создает проблемы. OpenAI стремится привести системы ИИ в соответствие с человеческими ценностями и разработать необходимые структуры управления, чтобы смягчить опасность сверхинтеллекта. Принятые на себя обязательства свидетельствуют о значительных усилиях, направленных на ответственное развитие ИИ.
Около минуты
12 августа 2023