OpenAI преобразует Комитет по безопасности в независимый орган Совета директоров

OpenAI преобразовала свой комитет по безопасности в независимый "Комитет по надзору Совета директоров", который имеет право отложить запуск моделей искусственного интеллекта (ИИ) в случае возникновения проблем с безопасностью. Этот шаг был сделан после 90-дневного анализа процессов и мер безопасности компании.

В новый комитет вошли Зико Коултер, Адам Д'Анджело, Пол Накасоне и Николь Селигман, которые получат информацию от руководства компании о безопасности основных выпусков моделей ИИ и будут следить за их запуском вместе со всем советом директоров. Совет директоров в полном составе также будет регулярно получать брифинги по вопросам безопасности.

Такой подход к созданию независимой организации напоминает модель, используемую Meta, в которой есть отдельный наблюдательный совет, который может принимать решения о политике в отношении контента. Однако у комитета OpenAI есть ограничение - все его члены являются членами совета директоров компании, что вызывает сомнения в его независимости.

Отчет о процессе обеспечения безопасности OpenAI также помог выявить дополнительные возможности для сотрудничества в индустрии искусственного интеллекта и обмена информацией. Компания планирует делиться дополнительной информацией о своих усилиях в области безопасности и расширять возможности для независимого тестирования своих систем.

* Meta - экстремистская организация, деятельность которой запрещена в России.

]]>