Представлены самые цветистые юридические документы, сгенерированные ИИ, которые вы когда-либо видели. Юрист был наказан за фальшивые цитаты и чрезмерное использование ИИ. — arstechnica.com
Расстроенный фальшивыми цитатами и цветистой прозой, наполненной «неожиданными» отсылками к древним библиотекам и «451 градусу по Фаренгейту» Рэя Брэдбери, федеральный судья Нью-Йорка на этой неделе предпринял редкий шаг, прекратив дело из-за неоднократного злоупотребления юристом ИИ при составлении документов.
В своем постановлении в четверг окружной судья Кэтрин Полк Файлла постановила, что чрезвычайные санкции были оправданы после того, как адвокат Стивен Фельдман, отвечая на запросы исправить свои документы, продолжал подавать документы с фальшивыми цитатами.
Одно из этих заявлений, по словам Файлла, «заслуживало внимания» «своей броско цветистой прозой». В то время как некоторые документы Фельдмана содержали грамматические ошибки и бессвязные предложения, этот документ стилистически казался разительно отличающимся.
Судья отметила, что в нем содержалась «расширенная цитата из «451 градуса по Фаренгейту» Рэя Брэдбери и метафоры, сравнивающие юридическую защиту с садоводством и оставлением неизгладимого «следа на глине». Цитата Брэдбери приведена ниже:
«Каждый должен что-то оставить после себя, когда умрет, — сказал мой дедушка. Ребенка или книгу, или картину, или дом, или построенную стену, или пару обуви. Или посаженный сад. Что-то, чего коснулась твоя рука, чтобы твоей душе было куда отправиться, когда ты умрешь, и когда люди будут смотреть на это дерево или цветок, который ты посадил, ты будешь там. Неважно, что ты делаешь, сказал он, если ты меняешь что-то из того, каким оно было до того, как ты его коснулся, во что-то, что похоже на тебя после того, как ты убрал руки. Разница между человеком, который просто стрижет газоны, и настоящим садовником — в прикосновении, сказал он. Стригальщик газонов мог бы так же успешно не присутствовать; садовник будет там всю жизнь».
Другой отрывок, который Файлла выделила как «вызвавший у суда удивление», любопытно ссылался на библейский отрывок о божественном суде как средство признания нарушения долга адвокатом, который не уловил фальшивые цитаты:
,
«Ваша честь, в древних библиотеках Ашшурбанипала писцы носили свои стилусы как инструмент и священное доверие — понимая, что каждый след на глине переживет их смертный срок. Как роль знака (x) в Девятой главе Иезекииля, который отметил лоб кровью и чернилами тау (x), несет такое же торжественное признание: письменное слово несет силу сохранять или осуждать, строить или разрушать, и оставляет неизгладимый след, который нельзя стереть, но следует отозвать, пусть это побудит других подумать, что эти цитаты были верными.Я потерпел неудачу в этом священном доверии. Ошибки в моем меморандуме, какими бы непреднамеренными они ни были, уменьшили целостность протокола и достоинство этих разбирательств. Подобно писцам древности, которые несли свои стилусы как привилегию и бремя, я понимаю, что юридическое авторство требует большего, чем просто компетентность — оно требует абсолютной верности истине и точности в каждом знаке на странице».
Адвокат утверждает, что ИИ не писал документы
Хотя судья полагала, что «цветистая проза» указывала на то, что проект был написан чат-ботом, Фельдман это отрицал. На слушании, стенограмма которого показывает, как судья взвешивала возможные санкции, Фельдман показал, что он написал каждое слово документов. Он объяснил, что читал книгу Брэдбери «много лет назад» и хотел включить «личные вещи» в этот документ. Что касается его отсылок к Ашшурбанипалу, то это тоже «пришло от меня», сказал он.
Вместо того чтобы признать, что он позволил ИИ составить свои документы, он утверждал, что его самой большой ошибкой было полагаться на различные программы ИИ для проверки и перекрестной проверки цитат. Среди инструментов, которые он признал использованными, были Paxton AI, Vincent AI от vLex и NotebookLM от Google. По сути, он показал, что заменил три раунда проверки ИИ одним этапом чтения всех цитируемых им дел. По его словам, эта ошибка позволила прокрасться галлюцинациям и фальшивым цитатам в документы.
,
Но судья возразила, написав в своем постановлении, что «чрезвычайно трудно поверить», что ИИ не писал разделы, содержащие излишне цветистую прозу. Она обвинила Фельдмана в уклонении от правды.
«Суд видит это иначе: ИИ с самого начала создал эту цитату, а решение г-на Фельдмана удалить большинство цитат и написать «больше похоже на личное письмо» — это «не что иное, как постфактумное оправдание, которое пытается скрыть его злоупотребление ИИ и его твердый отказ проверять свои представления на точность», — написала Файлла.
На слушании она выразила разочарование и раздражение Фельдманом за уклонение от ее вопросов и предоставление противоречивых ответов. В конце концов, он показал, что использовал ИИ для исправления информации при составлении одного из документов, что Файлла немедленно сочла «неразумным», но не того, который цитировал Брэдбери.
ИИ не замена походу в библиотеку
Фельдман — один из сотен юристов, которые полагались на ИИ для составления документов, которые вводили фальшивые цитаты в дела. Юристы предлагали широкий спектр оправданий чрезмерной зависимости от ИИ. Некоторые столкнулись с небольшими штрафами, около 150 долларов, в то время как другие были оштрафованы на тысячи, включая одно дело, где санкции достигли 85 000 долларов за неоднократное, злонамеренное поведение. По крайней мере, одна юридическая фирма пригрозила уволить юристов, цитирующих фальшивые дела, а другие юристы наложили на себя другие добровольные санкции, такие как годичный отпуск.
По-видимому, Фельдман не считал санкции в этом деле оправданными. В своей защите трех документов, содержащих 14 ошибок из 60 цитат, Фельдман обсуждал свои трудности с доступом к юридическим базам данных из-за высоких затрат на подписку и коротких часов работы библиотек. Имея на руках более одного дела и выпускные своих детей, он изо всех сил пытался проверить цитаты в то время, когда не мог попасть в библиотеку, показал он. В качестве обходного пути он полагался на несколько программ ИИ для проверки цитат, которые он находил, выполняя поиск в таких инструментах, как Google Scholar.
,
Фельдман, вероятно, не ожидал, что судья прекратит дело в результате его злоупотреблений ИИ. На вопрос о том, как, по его мнению, суд должен разрешить ситуацию, Фельдман предложил исправить документы, полагаясь на других юристов для проверки цитат, избегая «любого использования каких-либо, знаете ли, искусственного интеллекта или методов типа LLM». Однако судья написала, что его неоднократные злоупотребления были «доказательством» того, что он «ничему не научился» и не принял добровольных мер предосторожности для выявления ошибок.
Запрошенный для комментариев Фельдман сообщил Ars, что у него нет времени обсуждать санкции, но он надеется, что его опыт поможет повысить осведомленность о том, насколько недоступны судебные документы для общественности. «Использование ИИ и возможность его улучшения раскрывают более глубокую прокси-войну за то, останутся ли право и серьезная наука общедоступными для аудита, или они перейдут в закрытые, контролируемые посредниками системы, которые подрывают проверку и надлежащую правовую процедуру», — предположил Фельдман.
«Настоящий урок заключается в прозрачности и дизайне системы, а не просто в сбое инструмента», — сказал Фельдман.
Но на слушании Файлла сказала, что, по ее мнению, Фельдман имел «доступ к закрытому саду» юридических баз данных, если бы только он «пошел в юридическую библиотеку» для проведения своих исследований, а не полагался на инструменты ИИ.
«Похоже, вы хотите, чтобы я сказала, что вы должны быть освобождены от всех этих ужасных ошибок в цитировании, этих пропущенных цитат, потому что у вас нет Westlaw», — сказала судья. «Но теперь я знаю, что у вас есть доступ к Westlaw. Так чего же вы хотите?»
Как пояснила Файлла в своем постановлении, она считает, что ключевой вывод заключается в том, что Фельдман постоянно не замечал своих собственных ошибок. Она сказала, что у нее нет проблем с юристами, использующими ИИ для помощи в исследованиях, но Фельдман признался, что не читал цитируемые им дела и «видимо», не может «учиться на своих ошибках».
,
Проверка цитат дел никогда не должна быть работой, оставленной ИИ, сказала Файлла, описывая методы исследования Фельдмана как «напоминающие Руба Голдберга».
«Большинство юристов просто называют это «проведением юридических исследований», — написала Файлла. «Все юристы должны знать, как это делать. Г-н Фельдман не освобождается от этого профессионального обязательства в силу использования новых технологий».
Его «объяснения были богаты словами, но бедны по существу», — написала судья. Она заключила, что он «неоднократно и нагло» нарушил Правило 11, которое требует от юристов проверять цитируемые ими дела, «несмотря на многочисленные предупреждения».
Отметив, что Фельдман «не полностью принял ответственность», она постановила, что прекращение дела было необходимым, вынеся заочное решение в пользу истцов. Фельдман также может быть обязан оплатить сборы за потраченное время других юристов.
Внезапное прекращение дела влечет за собой обширные средства правовой защиты
Стенограмма слушания разошлась в социальных сетях из-за бескомпромиссного подхода судьи к допросу Фельдмана, которого она явно нашла уклоняющимся и не заслуживающим доверия.
«Послушайте, если вы не хотите быть честным со мной, если вы не хотите отвечать на вопросы откровенно, это нормально», — сказала Файлла. «Я сама приму решение о том, что, по моему мнению, вы сделали в этом деле. Я даю вам возможность попытаться объяснить то, что, по моему мнению, невозможно объяснить».
В своем постановлении на этой неделе она отметила, что Фельдман «с трудом поддерживал зрительный контакт» и покинул суд без «четких ответов».
Ошибки Фельдмана произошли в деле, в котором компания по производству игрушек подала в суд на продавцов, которые якобы не прекратили продажу краденых товаров после получения приказа о прекращении и воздержании. Его клиент был среди продавцов, обвиняемых в незаконном обогащении за счет предполагаемых краж. Им были предъявлены федеральные обвинения в нарушении прав на товарные знаки, недобросовестной конкуренции и ложной рекламе, а также обвинения штата Нью-Йорк, включая содействие продаже краденых товаров.
,
Проигрыш влечет за собой средства правовой защиты, включая судебный запрет, запрещающий дальнейшую продажу краденых товаров, и возврат средств каждому покупателю, их купившему. Клиент Фельдмана также должен передать любые краденые товары из своего оставшегося инвентаря и вернуть полученную прибыль. Могут быть причитаться другие убытки, а также проценты. Ars не удалось немедленно связаться с адвокатом истцов, чтобы обсудить постановление о санкциях или связанные с ним средства правовой защиты.
Файлла подчеркнула в своем постановлении, что Фельдман, по-видимому, не оценил «серьезность ситуации», неоднократно подавая документы с фальшивыми цитатами даже после того, как его предупредили о возможных санкциях.
Это был выбор, сказала Файлла, отметив, что ошибки Фельдмана были обнаружены рано юристом, работающим на другого ответчика по делу, Джоэлом МакМаллом, который настоятельно рекомендовал Фельдману немедленно уведомить суд. Вся эта неразбериха закончилась бы в июне 2025 года, предположил МакМалл на слушании.
Однако вместо того, чтобы последовать совету МакМалла, Фельдман отложил уведомление суда, чем вызвал раздражение судьи. Он показал во время напряженного слушания по поводу санкций, что задержка была связана с его тайными усилиями по исправлению документа. Он якобы планировал представить эти исправления, когда уведомит суд об ошибках.
Но Файлла отметила, что он так и не представил исправлений, настаивая вместо этого, что Фельдман держал ее «в неведении».
«Нет реальной причины, по которой вы должны были скрывать это от меня», — сказала судья.
Суд узнал о фальшивых цитатах только после того, как МакМалл уведомил судью, поделившись электронными письмами о своих попытках побудить Фельдмана действовать срочно. Эти письма показали, как Фельдман отчитывал МакМалла за непрофессиональное поведение после того, как МакМалл отказался проверить цитаты Фельдмана за него, что, как отметила Файлла на слушании, совершенно не входило в обязанности МакМалла.
Фельдман сказал Файлла, что он также считал непрофессиональным со стороны МакМалла делиться их перепиской, но Файлла сказала, что электронные письма были «иллюстративными».
На слушании МакМалл спросил, позволит ли суд ему потребовать возмещения своих расходов, поскольку он считает, что «здесь произошло умножение разбирательств, которое было бы совершенно ненужным, если бы г-н Фельдман сделал то, о чем я просил его в тот воскресный вечер в июне».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger