Адвокат, выступающий от имени компании Anthropic, подтвердил, что допустил ошибку, используя некорректную цитату, сгенерированную чат-ботом Claude AI, в ходе текущего разбирательства с музыкальными издателями. Данное заявление было направлено в суд Северной Калифорнии в четверг.
Представители Anthropic отметили, что Claude «создал» данную цитату. Юристы фирмы объяснили, что их «ручная проверка цитат» не обнаружила ни эту, ни ряд других погрешностей, возникших из-за «галлюцинаций» чат-бота. Компания принесла извинения за допущенную ошибку, охарактеризовав её как «честный промах в цитировании, а не подделку под авторитетный источник».
На этой неделе адвокаты Universal Music Group и других музыкальных издательств обвинили Оливию Чен, эксперта-свидетеля Anthropic, в том, что она использовала Claude для включения в свои показания фиктивных статей. В ответ на это федеральный судья Сьюзан ван Кеулен потребовала от Anthropic дать разъяснения по поводу изложенных обвинений.
Иск музыкальных издателей является лишь одной из множества судебных разбирательств, возникших между правообладателями и технологическими компаниями из-за предполагаемого неправомерного использования интеллектуальной собственности для разработки инструментов генеративного искусственного интеллекта.
Этот случай стал очередным примером, когда юристы использовали технологии ИИ в судебном процессе и затем пожалели об этом. На этой же неделе калифорнийский судья выразил недовольство по поводу нескольких юридических фирм, которые представили в его суд «фальшивые исследования, созданные ИИ». В январе австралийский юрист был пойман на использовании ChatGPT при подготовке судебных документов, что также привело к ошибочным цитатам.
Тем не менее, подобные инциденты не останавливают стартапы от привлечения значительных средств на автоматизацию юридических процессов. Например, компания Harvey, использующая генеративные модели ИИ для поддержки юристов, якобы ведет переговоры о привлечении более 250 миллионов долларов при оценке в 5 миллиардов долларов.
Ошибки, как показывает практика, могут обернуться неожиданными последствиями, однако технологии продолжают развиваться, и важно следить за их влиянием на правовую сферу.🔔 Чтобы узнать больше и следить за новостями из мира ИИ, подписывайтесь на мой канал “ProAI” в Telegram!