Недавно обсуждаемый законопроект Калифорнии, известный как SB 1047, нацелен на регулирование и обеспечение безопасности искусственного интеллекта (ИИ). Это законодательное предложение, содержащее ряд строгих требований, вызвало острую дискуссию среди технологических гигантов, таких как Google и Meta, и сторонников, включая Илона Маска. Давайте разберемся, что именно включает в себя этот законопроект и почему он вызвал столь горячую полемику.
Законопроект о безопасности ИИ SB 1047: Основные моменты
Основная цель SB 1047 — наложить больше ответственности на разработчиков, вкладывающих более $100 миллионов в создание ИИ. Среди ключевых требований законопроекта выделяются следующие:
1. Тестирование безопасности: Компании должны будут всесторонне тестировать свои ИИ-модели, чтобы убедиться в их безопасности и предотвращении потенциального вреда.
2. Внедрение защитных механизмов: Разработчики должны будут обеспечить наличие механизмов безопасности, чтобы предотвратить использование ИИ в целях, способных причинить вред.
3. Аудиты безопасности: Независимые аудиторы будут проверять модели ИИ на соответствие требованиям безопасности.
4. Механизм аварийного отключения: Каждый ИИ должен иметь встроенную функцию экстренного отключения.
5. Защита информаторов: Законопроект гарантирует защиту для людей, сообщающих о небезопасных практиках в компаниях-разработчиках ИИ.
Поддержка и критика законопроекта
Калифорнийский сенатор Скотт Винер, один из авторов законопроекта, обвиняет некоторых противников в "нагнетании страха". По словам Винера, отсутствие надлежащего регулирования может привести к серьёзным опасностям для общества. Его поддерживают такие известные личности, как Илон Маск, который выступает за регулирование ИИ уже более 20 лет. На виртуальной пресс-конференции, посвященной законопроекту, Винер собрал поддержку от таких экспертов по ИИ, как Йошуа Бенгио, а также лидеров организаций по безопасности, таких как Дэн Хендрикс из Центра безопасности ИИ.
Илон Маск, владелец компании xAI, заявил на платформе X, что "Калифорния должна, вероятно, принять законопроект о безопасности ИИ SB 1047, несмотря на то, что это будет нелегкое решение и вызовет недовольство у некоторых людей". Однако многие другие технологические гиганты, такие как Google, Meta и OpenAI, выразили свои опасения относительно законопроекта. Они считают, что жесткие правила могут затормозить инновации и сделать Калифорнию менее привлекательной для исследований и стартапов в области ИИ.
Например, Джейсон Квон, директор по стратегии OpenAI, написал в письме к сенатору Винеру, что регулирование ИИ должно осуществляться на федеральном уровне.
Далее по курсу: Голосование и возможные изменения
SB 1047 уже прошел через Сенат штата и готовится к голосованию в Ассамблее штата. После нескольких поправок законопроект вернется в Сенат для окончательного голосования. В случае одобрения законопроект поступит на подпись к губернатору Гэвину Ньюсому. Пока что Ньюсом не выразил своей позиции по данному законопроекту.
Законопроект SB 1047, безусловно, является важным шагом в направлении обеспечения безопасности ИИ, но также вызывает множество вопросов и протестов со стороны индустрии. Как вы считаете, следует ли регулирование ИИ осуществляться на федеральном уровне или каждая штатная администрация должна самостоятельно принимать решения в этой области? Оставьте свое мнение в комментариях и поделитесь статьей в социальных сетях, чтобы услышать взгляды других.
Если интересны новости в мире ИИ, то подписывайтесь на телеграм-канал: t.me/ai_burenin