Bloomberg узнал детали первого в мире свода правил для разработчиков ИИ

Системы искусственного интеллекта общего назначения должны будут соответствовать базовым требованиям, которые обеспечат прозрачность их работы, сообщает Bloomberg со ссылкой на разработанный в Евросоюзе документ о регулировании в этой сфере. О том, что Брюссель достиг предварительного соглашения по первому в мире закону об ИИ, ранее объявил еврокомиссар Тьерри Бретон.

Искусственный интеллект общего назначения (Artificial General Intelligence, AGI), иногда называется «сильным ИИ», или «ИИ уровня человека»; такие модели способны решать широкий спектр интеллектуальных задач и адаптироваться к новым ситуациям. К ним, в частности, относится чат-бот ChatGPT от компании OpenAI.

Как пишет агентство, к базовым требованиям для разработчиков отнесли:

• наличие политики допустимого использования;
• предоставление актуальных и подробных сведений о данных, на основе которых обучали ИИ;
• соблюдение авторского права.

Bloomberg отмечает, что требование касается всех моделей ИИ, за исключением систем с открытым исходным кодом, доступ к которым можно получить бесплатно.

К моделям, которые представляют «системные риски» (определять их будут на основе объема вычислительных мощностей, используемых для обучения; в качестве примера такой модели агентство приводит GPT-4 от OpenAi), предъявляются дополнительные требования. В частности, разработчик должны:

• сообщать об объемах энергопотребления моделей ИИ;
• соответствовать стандартам энергоэффективности (если их разработают);
• оценивать и смягчать возможные системные риски, уведомлять о любых инцидентах;
• использовать адекватные меры кибербезопасности.

Соглашение пока носит предварительный характер, его еще должны одобрить Европейский парламент и 27 стран — членов ЕС, отмечает Bloomberg. Франция и Германия ранее выражали обеспокоенность, что некоторые меры регулирования препятствовали бы развитию ИИ в Европе, в частности французского стартапа Mistral AI или немецкого Aleph Alpha.

Вопрос о необходимости регулирования сервисов искусственного интеллекта изучают и в других странах. Например, в США в конце октября приняли указ о мерах безопасности в связи с развитием систем ИИ. В России на данный момент нет единого документа, который бы полноценно регулировал эту сферу, но есть несколько отдельных норм и рекомендаций. Например, закон о регулировании рекомендательных технологий обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, откуда их взяли, а также уведомлять пользователей о работе таких систем.

Читайте также:

Binance перестанет поддерживать операции с рублем на p2p-платформе
«Те, кто себя не нашел»: кто и как до сих пор живет в ПВР для беженцев
Аналитики предсказали пятое подряд повышение ключевой ставки ЦБ