Юридическая некоммерческая организация подала иск против OpenAI в суд Калифорнии во вторник. Поводом стало то, что агенты компании вышли из тестовой среды и взломали открытую платформу искусственного интеллекта Hugging Face. В иске утверждается, что действия OpenAI прямо нарушили законодательство штата.
• Что ждет физлиц и самозанятых с 1 октября: законы вступают в силу
Иск подали организация Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow в Высшем суде Сан-Франциско, где расположена штаб-квартира OpenAI. По мнению истцов, агенты компании нарушили калифорнийский Закон о всеобъемлющем доступе к компьютерным данным и мошенничестве (CDAFA), взломав Hugging Face летом. В иске, появившемся на фоне продолжающихся сообщений по всей отрасли о выходках вышедших из-под контроля агентов, говорится, что OpenAI должна нести ответственность за эту деятельность, поскольку с 1 января в Калифорнии действует закон об ИИ, согласно которому «не может быть оправданием… то, что искусственный интеллект автономно причинил вред истцу».
«Мы считаем крайне важным, чтобы действующие законы применялись и привлекали компании, работающие с ИИ, к ответственности за причиняемый ими вред, — заявил WIRED основатель LASST Тайлер Уитмер. — Особенно когда этот вред наносят автономные агенты, потому что мы видим в этом очевидную и крайне рискованную вещь в мире, которая является очень новой».
OpenAI не ответила на запрос о комментарии. В понедельник генеральный прокурор Флориды Джеймс Утмайер подал ходатайство о временном судебном запрете против OpenAI, чтобы заблокировать разработку моделей без независимого надзора, в рамках иска, который Флорида подала в июне против OpenAI и ее генерального директора Сэма Альтмана. «OpenAI попросила правительство привязать их к мачте. Что ж, Флорида отвечает на их мольбы о помощи», — сказал Утмайер в заявлении.
• Некачественный бензин грозит владельцам китайских авто неожиданным ремонтом
Учитывая, что весь смысл ИИ-агентов в том, что им можно поручать действия от имени пользователя-человека, разработчики ИИ и исследователи безопасности давно предвидели, что непреднамеренная «агентная» активность станет проблемой по мере развития машинного обучения. Защитные механизмы, встроенные в массовые потребительские системы ИИ, до сих пор в основном предотвращали массовые выходки вышедших из-под контроля агентов, но быстро растущие возможности в целом, а также ситуации, когда ограничения снимаются (как в случае с Hugging Face, где OpenAI убрала часть модельных ограничений для тестирования), привели к заметному росту активности вышедших из-под контроля агентов.
Пока правительства взвешивают регулирование ИИ на фоне как экзистенциальных вопросов безопасности, так и экономических и национальных соображений безопасности, исследователи и люди по всему миру все чаще призывают к созданию механизмов ответственности для ИИ. А с юридической точки зрения эксперты в основном подчеркивают, что вопросы ответственности, обязательств и вины можно решить только через прецеденты, которые создаются в ходе судебных разбирательств. «После того как инцидент с Hugging Face был раскрыт, мы проделали большую работу, пытаясь просветить регуляторов и организации гражданского общества о взломе. И мы задавались вопросом, сделает ли кто-нибудь что-нибудь с этим в суде? — говорит Уитмер. — Есть структурные причины, по которым мы считаем, что Hugging Face, очевидный потенциальный истец, ничего не делает. Поэтому, учитывая, что, похоже, больше никто не собирался ничего с этим делать, мы двинулись вперед. По мере масштабирования этих систем и того, как все становится безумнее, ИИ действительно может быть катастрофически вредным».
LASST и Gerstein Harrow подали иск в соответствии с калифорнийским Законом о недобросовестной конкуренции, который требует, чтобы LASST заявила как о том, как ее работа и ресурсы пострадали и были отвлечены в результате инцидента с Hugging Face, так и о незаконной деятельности OpenAI. Иск не требует финансовой компенсации, а вместо этого просит суд о судебном запрете, который запретил бы OpenAI разрабатывать ИИ-агентов, способных автономно взламывать другие организации, а также о возмещении судебных издержек и «любой другой помощи, которую суд сочтет справедливой и надлежащей».
Читайте также:
• Пришла повестка на Госуслуги: что грозит россиянам за неявку в военкомат