Европейский союз согласовал условия Закона об искусственном интеллекте (AI Act), важного нового набора правил, которые будут регулировать создание и использование систем искусственного интеллекта и будут иметь серьезные последствия для Google, OpenAI и других участников гонки по разработке таких систем.
#ИскусственныйИнтеллект #AIAct #ЕвропейскийСоюз #Регулирование #Закон #Технологии #Данные #Прозрачность #Безопасность #Инновации
Европейский союз сегодня согласовал детали "AI Act" - широкомасштабного набора правил для людей, создающих и использующих искусственный интеллект. Это веховый закон, который, как надеются законодатели, станет образцом для остального мира.
После месяцев дебатов о том, как регулировать компании, такие как OpenAI, законодатели из трех ветвей власти ЕС - Парламента, Совета и Комиссии - потратили более 36 часов на выработку нового законодательства с среды после обеда по пятницу вечером. Законодатели были под давлением, чтобы достичь соглашения до начала предвыборной кампании в Европейском парламенте в новом году.
"AI Act ЕС - глобальный прецедент", - сказала президент Европейской комиссии Урсула фон дер Ляйен в своем твите. "Уникальная правовая рамка для развития надежного искусственного интеллекта. И для безопасности и основных прав людей и бизнеса".
Сам закон не является первым в мире; новые правила Китая для генеративного искусственного интеллекта вступили в силу в августе. Но AI Act ЕС является самым обширным набором правил подобного рода для этой технологии. Он включает запреты на использование биометрических систем, идентифицирующих людей по таким чувствительным характеристикам, как сексуальная ориентация и раса, а также на безразборный сбор лиц с интернета. Законодатели также согласились, что правоохранительные органы должны иметь возможность использовать системы биометрической идентификации на общественных местах для определенных преступлений.
Также были включены новые требования к прозрачности для всех общецелевых моделей искусственного интеллекта, таких как GPT-4 от OpenAI, который обеспечивает функционирование ChatGPT, а также более строгие правила для "очень мощных" моделей. "AI Act устанавливает правила для крупных, мощных моделей искусственного интеллекта, обеспечивая отсутствие системных рисков для Союза", - говорит Драгош Тудораше, член Европейского парламента и один из двух со-докладчиков, ведущих переговоры.
Компании, не соблюдающие правила, могут быть оштрафованы на сумму до 7% от своего глобального оборота. Запреты на запрещенный искусственный интеллект вступят в силу через шесть месяцев, требования к прозрачности - через 12 месяцев, и полный набор правил - примерно через два года.
Также были включены меры, призванные облегчить защиту прав на авторские произведения от генеративного искусственного интеллекта и требовать от общецелевых систем искусственного интеллекта большей прозрачности в отношении их энергопотребления.
"Европа позиционирует себя как пионер, понимая важность своей роли в установлении глобальных стандартов", - сказал европейский комиссар Тьерри Бретон на пресс-конференции в пятницу ночью.
За эти два года законодатели вели переговоры по установленным сегодня правилам, технологии и ведущие опасения по поводу искусственного интеллекта (ИИ) резко изменились. Когда Закон об ИИ был предложен в апреле 2021 года, политики были обеспокоены непрозрачными алгоритмами, которые определяли, кто получит работу, будет ли признан беженцем или получит социальные пособия. К 2022 году появились примеры того, что ИИ активно наносит вред людям. В голландском скандале решения, принятые алгоритмами, привели к принудительному разделению семей от их детей, а студенты, обучающиеся удаленно, утверждали, что ИИ-системы дискриминируют их на основе цвета кожи.
Затем, в ноябре 2022 года, OpenAI выпустила ChatGPT, что существенно изменило дискуссию. Прыжок в гибкости и популярности ИИ вызвал тревогу среди некоторых экспертов по ИИ, которые проводили гиперболические сравнения между ИИ и ядерным оружием.
Это обсуждение проявилось в переговорах о Законе об ИИ в Брюсселе в виде дебатов о том, следует ли считать создателей так называемых фундаментальных моделей, таких как та, что находится за ChatGPT, таких как OpenAI и Google, потенциальными источниками проблем и соответственно регулировать их, или же новые правила должны сконцентрироваться на компаниях, использующих эти фундаментальные модели для создания новых приложений на основе ИИ, таких как чат-боты или генераторы изображений.
Представители генеративной ИИ-индустрии Европы выразили осторожность в отношении регулирования фундаментальных моделей, сказав, что это может препятствовать инновациям среди стартапов ИИ в блоке. "Мы не можем регулировать двигатель, не имеющий использования", - заявил в прошлом месяце Артур Менш, генеральный директор французской компании по ИИ Mistral. "Мы не регулируем язык программирования C, потому что его можно использовать для разработки вредоносного программного обеспечения. Вместо этого мы запрещаем вредоносные программы". Фундаментальная модель Mistral 7B будет исключена из правил, согласованных сегодня, потому что компания все еще находится в фазе исследования и разработки, сообщила на пресс-конференции Карме Артигас, Госсекретарь Испании по цифровизации и искусственному интеллекту.
Основной точкой разногласий во время последних обсуждений, которые продолжались поздно вечером дважды на этой неделе, стала возможность использования правоохранительными органами технологии распознавания лиц или других видов биометрии для идентификации людей в реальном времени или в прошлом. "Оба способа уничтожают анонимность в общественных местах", говорит Даниэль Лойфер, старший аналитик по политике в группе по защите цифровых прав Access Now. Технология биометрической идентификации в реальном времени может опознать человека, находящегося прямо сейчас на вокзале, используя видеопотоки с камер безопасности, объясняет он, тогда как "пост" или ретроспективная биометрическая идентификация может установить, что тот же самый человек также посещал вокзал, банк и супермаркет вчера, используя ранее сохраненные изображения или видео.
Лойфер сказал, что он разочарован "лазейками" для правоохранительных органов, которые, по его словам, были заложены в окончательной версии акта, утвержденной сегодня.
Медленная реакция европейских регуляторов на появление эры социальных медиа висела над обсуждениями. Почти 20 лет прошло между запуском Facebook и вступлением в силу правил ЕС, направленных на защиту прав человека в онлайне, которые начали действовать в этом году. За это время блоку пришлось столкнуться с проблемами, создаваемыми американскими платформами, не сумев при этом поддержать своих меньших европейских конкурентов. "Может быть, мы могли бы лучше предотвратить [проблемы] через более раннее регулирование", - сказал Брандо Бенифеи, один из двух главных переговорщиков Европейского парламента, в интервью WIRED в июле. Технология искусственного интеллекта развивается быстрыми темпами. Но понадобится еще много лет, чтобы сказать, насколько успешен закон об искусственном интеллекте в ограничении негативных последствий последнего экспорта Силиконовой Долины.
Подписывайся: https://t.me/trivsin