Потенциальные опасности высокоинтеллектуальных систем искусственного интеллекта были предметом беспокойства экспертов в этой области.
Недавно Джеффри Хинтон – так называемый “Крестный отец искусственного интеллекта” - выразил свою обеспокоенность возможностью того, что сверхразумный ИИ превзойдет человеческие возможности и вызовет катастрофические последствия для человечества.
Аналогичным образом Сэм Альтман, генеральный директор OpenAI, компании, создавшей популярного чат-бота ChatGPT, признался, что опасается потенциального воздействия продвинутого искусственного интеллекта на общество.
В ответ на эти опасения OpenAI объявила о создании нового подразделения под названием Superalignment.
Основная цель этой инициативы - гарантировать, что сверхразумный искусственный интеллект не приведет к хаосу или даже вымиранию человечества. OpenAI признает огромную мощь, которой может обладать сверхразум, и потенциальную опасность, которую он представляет для человечества.
Хотя до разработки сверхразумного искусственного интеллекта, возможно, еще несколько лет, OpenAI считает, что это может стать реальностью к 2030 году. В настоящее время не существует установленной системы контроля и руководства потенциально сверхразумным ИИ, что делает необходимость в упреждающих мерах еще более важной.
Superalignment стремится создать команду ведущих исследователей и инженеров в области машинного обучения, которые будут работать над разработкой “исследователя автоматизированного выравнивания примерно человеческого уровня”. Этот исследователь будет отвечать за проведение проверок безопасности сверхразумных систем искусственного интеллекта.
OpenAI признает, что это амбициозная цель и что успех не гарантирован. Тем не менее, компания сохраняет оптимизм в отношении того, что при целенаправленных и согласованных усилиях проблема выравнивания сверхразума может быть решена.
Появление инструментов искусственного интеллекта, таких как ChatGPT от OpenAI и Bard от Google, уже привело к значительным изменениям на рабочем месте и в обществе. Эксперты прогнозируют, что эти изменения будут только усиливаться в ближайшем будущем, еще до появления сверхразумного искусственного интеллекта.
Признавая преобразующий потенциал искусственного интеллекта, правительства по всему миру стремятся установить правила для обеспечения его безопасного и ответственного внедрения. Однако отсутствие единого международного подхода создает проблемы. Различные правила в разных странах могут привести к разным результатам и еще больше затруднить достижение цели Superalignment.
Активно работая над приведением систем искусственного интеллекта в соответствие с человеческими ценностями и разрабатывая необходимые структуры управления, OpenAI стремится смягчить опасности, которые могут возникнуть из-за огромной мощи сверхразума.
Хотя стоящая перед нами задача, несомненно, сложна, приверженность OpenAI решению этих проблем и привлечению ведущих исследователей в этой области свидетельствует о значительных усилиях по ответственной и полезной разработке искусственного интеллекта