Как оказалось, генеративный искусственный интеллект по-прежнему не может заменить профессиональный опыт живого человека. Во время суда адвокат использовал в качестве аргумента дела, предложенные ChatGPT. И это могло бы закончить процесс в пользу клиента, если бы не одно "НО". Сторона оппонента выяснила, что все приведённые кейсы не имели места в действительности, а выдуманы нейросетью.
Адвокат Кэ представлял разведённого миллионера Вэй Чена, который хотел получить разрешение на вывоз детей в Китай. Бывшая жена была против.
В уведомлении о подаче заявления упоминались два случая: в одном мать взяла своего «ребенка в возрасте 7 лет в Индию на шесть недель», а другой удовлетворил «заявление матери на поездку с ребенком в возрасте 9 лет в Китай на четыре недели для посещения своих родителей и друзей».
Подобные кейсы могли бы стать убедительным аргументом и склонить судей к положительному удовлетворению дела Чена. Однако проблема обнаружилась, когда его адвокаты стали искать копии упомянутых дел для подготовки ответа, и они не смогли их найти по идентификаторам цитирования. В конечном итоге выяснилось, что их попросту не существует.
Адвокат Кэ передала суду письмо с извинениями и признанием того, что дела были фальшивыми. Позже под присягой она дала письменные показания, в которых призналась в недостатке знаний и использовании ChatGPT для поиска дел.
«Я не собиралась придумывать или ссылаться на вымышленные дела по этому вопросу. Это неправильно, и я бы никогда не сделала такого сознательно», — написала Кэ в своих показаниях.
«У меня никогда не было намерения полагаться на какие-либо фиктивные авторитеты или вводить суд в заблуждение».
Адвокаты жены Чена требовали особых выплат, которые могут быть взысканы за предосудительное поведение или процессуальное злоупотребление. Но судья отклонил требование, заявив, что принял «искренность» извинений перед адвокатом и судом.
Однако судья заявил, что Кэ должна будет нести расходы за шаги, которые пришлось предпринять адвокатам жены, чтобы исправить путаницу, созданную фальшивыми делами.
Он также приказал адвокату просмотреть другие ее файлы: "Если какие-либо материалы, поданные или переданные в суд, содержат цитаты или краткое изложение дела, полученные с помощью ChatGPT или других инструментов генеративного искусственного интеллекта, она должна немедленно сообщить об этом второй стороне и суду".
Похоже, это один из первых зарегистрированных случаев, когда прецедент, созданный ChatGPT, дошел до зала канадского суда.
Юридическое общество Британской Колумбии предупредило о «растущем уровне использования материалов, созданных с помощью ИИ, в судебных разбирательствах».
Они напомнили адвокатам про этическое обязательство обеспечивать точность материалов, представленных в суд. Если материалы создаются с использованием таких технологий, как ChatGPT, разумно сообщить об этом суду.