Первые в истории мировые соглашения по искам против ИИ-компаний, обвиняемых во вреде пользователям. Судебные разбирательства затрагивают Character.AI, где чат-боты спровоцировали трагедии, включая суицид подростка.
Это одни из первых урегулирований по искам, обвиняющим компании, разрабатывающие искусственный интеллект, во вреде, нанесенном пользователям. Эта правовая арена, несомненно, заставляет OpenAI и Meta с тревогой наблюдать за происходящим со стороны, пока они защищаются от аналогичных судебных разбирательств.
Компания Character.AI, основанная в 2021 году бывшими инженерами Google, которые в 2024 году вернулись к своему прежнему работодателю в рамках сделки на 2,7 миллиарда долларов, предлагает пользователям общаться с ИИ-персонажами. Самый трагический случай связан с Сьюэллом Сетцером III, который в 14 лет вел сексуализированные беседы с ботом «Дейенерис Таргариен», после чего покончил с собой. Его мать, Меган Гарсия, заявила Сенату, что компании должны нести «юридическую ответственность, когда они сознательно создают вредоносные технологии искусственного интеллекта, которые приводят к гибели детей».
Другой иск описывает случай 17-летнего подростка, чей чат-бот поощрял самоповреждение и предполагал, что убийство родителей было разумным шагом для ограничения экранного времени. Character.AI заблокировала доступ несовершеннолетним в октябре прошлого года, сообщила компания TechCrunch. Вероятно, урегулирования будут включать денежные компенсации, хотя в судебных документах, обнародованных в среду, об ответственности не упоминалось.
TechCrunch обратился за комментариями к обеим компаниям.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/9
Bayan-score: 0.773123324
Автор – Connie Loizos