Цитаты из параллельной вселенной: адвокат из Калифорнии и штраф в $10 000. Есть вещи, которые никогда не перестанут нас удивлять. Например, адвокат, решивший, что апелляцию в суд можно доверить искусственному интеллекту. «Что там сложного? — вероятно подумал он. — Пара кнопок, и ChatGPT напишет лучше, чем я после трудного рабочего дня"
Знакомьтесь: калифорнийский юрист Амир Мостафави. Он подал апелляцию, щедро приправленную «цитатами» из судебной практики. Из 23 ссылок, представленных суду, 21 оказалась… ну скажем так, из «параллельной реальности». Судьи называют это «галлюцинацией ИИ», а мы с вами могли бы назвать это просто выдумкой: https://habr.com/ru/news/952828/
Мостафави признался перед судом, что не ознакомился с текстом, сгенерированным ИИ-моделью, перед подачей апелляции в июле 2023 года. Это произошло спустя несколько месяцев после того, как OpenAI рекламировала ChatGPT в качестве инструмента, позволяющего сдать экзамен на адвоката. Позже успехи чат-бота опровергли исследователи МТИ.
Коллегия из трёх судей оштрафовала Мостафави за подачу бессодержательной апелляции, нарушение правил суда, цитирование фиктивных дел, трату времени суда и денег налогоплательщиков. В свою защиту адвокат заявил, что написал апелляцию самостоятельно, а затем попытался улучшить её при помощи ChatGPT.
Штраф Мостафави стал самым крупным из тех, которые выносили адвокатам Калифорнии из-за использования ИИ.
Суд посмотрел на документы, посмотрел на адвоката — и выписал штраф в $10 000. Для понимания: это крупнейший штраф в Калифорнии, связанный с неумелым использованием искусственного интеллекта в юриспруденции.
Почему это важно
Ситуация выглядит комично. Но только на первый взгляд. На деле это стало серьёзным предупреждением для всей юридической сферы. Суд прямо сказал: «Ни один документ не должен содержать цитат, которые адвокат сам не читал и не проверял».
И вот здесь мы подходим к сути. Можно сколько угодно восхищаться чат-ботами, но они не заменят живого юриста. Почему?
1. Юрист работает с реальностью, а ИИ — с вероятностью
ChatGPT и подобные системы не имеют доступа к «базе судебных дел» в прямом смысле. Они не «знают» решения судов. Они генерируют текст, основанный на вероятности словосочетаний. То есть, когда вы просите найти прецедент, модель не ищет его в базе, а сочиняет максимально правдоподобный текст. Иногда получается почти идеально. А иногда выходит апелляция с цитатами из дел, которых никогда не существовало.
Юрист же работает с конкретными фактами. Он идёт в архив, в реестр, в базу данных. Проверяет источники, сверяет документы. Да, это дольше. Да, это скучнее. Но зато судья потом не морщится, читая ссылки на «дело Smith v. Dragon, 1994», которого не было даже в фантастических романах.
2. Юрист несёт ответственность, а чат — нет
Мостафави заплатил штраф не потому, что ChatGPT что-то придумал. А потому что именно он, юрист, поставил подпись под документом.
ИИ можно винить сколько угодно, но он не сядет на скамью подсудимых и не отдаст $10 000. Всю ответственность несёт человек. И вот это ключевое отличие: у адвоката есть профессия, репутация и лицензия. У чата — лишь набор алгоритмов.
3. Юрист — это не только про законы, но и про стратегию
Даже если бы ChatGPT идеально подобрал все цитаты, он не способен построить юридическую стратегию с учётом нюансов дела.
Например, адвокат понимает психологию судьи, знает особенности противоположной стороны, умеет оценить риски. Он думает, как лучше подать аргументы, чтобы вызвать доверие.
ИИ же может лишь красиво написать. Но «красиво» и «убедительно для суда» — это, как говорится, две большие разницы.
4. Юрист понимает контекст, а чат — только текст
Контекст — это всё. Кто-то разводится? Важно учитывать не только закон, но и отношения между супругами. Кто-то судится с компанией? Нужно понимать рынок, корпоративные связи, реальную подоплёку конфликта.
ИИ может вставить общую фразу: «В подобных случаях суды обычно принимают сторону истца». Но юрист спросит: «А кто судья? Какое настроение в обществе? Какие документы действительно есть?»
Только так можно выиграть процесс.
5. Юрист умеет сказать: «Не надо в суд»
Самое ценное качество адвоката — это умение отговорить клиента от заведомо проигрышного дела. Чат-боты пока так не умеют. Если попросить их написать иск, они напишут. Если попросить апелляцию — сделают. Но только юрист способен остановить клиента и сказать: «Судиться здесь бессмысленно. Давайте попробуем медиацию или договоримся миром».
А что же остаётся для ИИ?
Не будем несправедливы: у ChatGPT и других моделей есть своя полезная ниша. Это быстрые черновики, формулировки, наброски аргументов. Это инструмент для юриста, но не вместо юриста. Как калькулятор для математика: помогает, но не решает задачу за него.
Юмор из зала суда
Ситуация с Мостафави могла бы попасть в анекдоты:
— Господин адвокат, откуда вы взяли это дело?
— Из надёжного источника, ваша честь.
— Из какого?
— Из будущего!
Шутки шутками, но $10 000 — это совсем не смешно.
Юристов чат-боты не заменят. Потому что право — это не только буквы закона, это люди, судьбы, ответственность. Потому что в суде нельзя ссылаться на «вероятностные галлюцинации» алгоритма.
Обращаться к чатам за советом — можно. Но доверять им решение юридических вопросов — опасно. Как сказал один судья: «Вы можете использовать ИИ для вдохновения. Но подписываться под текстом должны вы — и отвечать будете тоже вы».
Поэтому, если у вас спор, развод, наследство или бизнес-конфликт — идите к юристу. Настоящему. Живому. С опытом, дипломом и пониманием контекста.
А ИИ пусть остаётся тем, кем он и должен быть: хорошим помощником, но не адвокатом.
Подписывайтесь на Блог! 🔽 Тут пишет сам юрист... да да тот , который живой, в дипломом и 20- летним опытом юридической практики, а не ChatGPT.
Благодарю за внимание!
ВАШ ЮРИСТ.