Калифорния приняла закон о безопасности ИИ
Губернатор Калифорнии Гэвин Ньюсом в понедельник подписал закон «Закон о прозрачности в области передового искусственного интеллекта», известный как SB53. Это стало итогом tumultuous года переговоров по регулированию ИИ в штате и знаменует собой одни из самых значительных правил в США.
Предложение, ставшее предметом интенсивных дебатов на государственном и федеральном уровнях, может стать важным маркером в обсуждении безопасности ИИ в стране и может послужить шаблоном для других штатов, если законодатели в Вашингтоне не превентивно запретят такие правила.
«С технологиями, которые так преобразуют, как ИИ, мы обязаны поддерживать инновации, устанавливая при этом разумные ограничительные меры для понимания и снижения рисков», — сказал калифорнийский сенатор Скотт Уинер, который представил данный законопроект.
Как мы к этому пришли
Хотя SB53 был первоначально представлен в январе, его путь к становлению законом начался в прошлом году, когда Уинер представил более широкий законопроект для предотвращения рисков от ведущих моделей ИИ в феврале — SB1047, или Закон о безопасной и защищенной инновации для модельных систем ИИ.
Изначально этот законопроект обязывал разработчиков ИИ проводить тесты безопасности перед запуском своих мощнейших моделей.
- Необходимо было сделать «положительное определение безопасности», которое бы подтверждало, что модель «не обладает опасными способностями».
Законодательство, если бы было подписано, ввело бы самые строгие правила безопасности ИИ в стране, однако быстро стало политическим пунктом спора и вызвало значительное сопротивление со стороны групп в технологической отрасли.
Хотя законопроект прошел через законодательное собрание штата с широкой поддержкой, Ньюсом наложил вето в сентябре, отметив, что законопроект «может создать ложное чувство безопасности» у общественности, фокусируясь только на самых передовых моделях ИИ.
Чтобы продвинуть переговоры, Ньюсом созвал группу исследователей — Совместную рабочую группу по политике ИИ Калифорнии, чтобы разработать отчет с рекомендациями по регулированию ИИ.
Что делает закон
Этот закон обязывает разработчиков самых передовых «больших фронтовых» моделей раскрывать на своих сайтах, как они подходят к различным вопросам безопасности, включая:
- Стандарты и лучшие практики
- Как они проверяют наличие катастрофических рисков
- Как они реагируют на критические инциденты безопасности
Закон также требует от компаний публично публиковать отчеты о прозрачности перед развертыванием «новых фронтовых моделей» или обновленных версий предыдущих моделей.
Кроме того, SB53 упрощает процесс для членов общественности и информаторов компаний сообщать о потенциальных рисках безопасности.
Как закон воспринимается
Похоже, SB53 получил поддержку более широкого круга групп по сравнению с SB1047, включая как потребительских защитников, так и некоторые технологические компании.
Считается, что «прием SB 53 является заметной победой для Калифорнии и всей индустрии ИИ», сообщил Сани Ганди из Encode AI.
В отличие от SB1047, реакции индустрии на SB53 оказались более смешанными. Например, разработчик ИИ-бота Claude, компания Anthropic, поддержала законопроект.
В то же время группы, представляющие интересы технологической отрасли, такие как CCIA и Палата прогресса, выступили против данного закона.
Ньюсон отметил, что закон обеспечивает необходимый баланс, утверждая, что «Калифорния доказала, что может устанавливать правила для защиты нашего сообщества и одновременно обеспечивать процветание развивающейся отрасли ИИ».
==> Хотите узнать про автоматизации на n8n? — Здесь основные курсы n8n, вы научитесь автоматизировать бизнес-процессы! <==
