Все чаще можно услышать мнение, что юристам скоро грозит массовая безработица. Ведь зачем платить деньги за консультацию специалиста, если можно бесплатно задать вопрос ChatGPT или другой нейросети и получить готовый ответ — будь то правовая справка, проект договора или даже исковое заявление? На первый взгляд действительно кажется, что искусственный интеллект способен заменить целые пласты работы юристов. Но при более внимательном рассмотрении становится очевидно: пока это иллюзия, а доверять ИИ безоговорочно — рискованно.
Юридические "фантазии" искусственного интеллекта
Сегодняшние генеративные модели, включая ChatGPT, устроены так, что они создают связный и правдоподобный текст, но не проверяют его на соответствие реальности. Задача алгоритма — подобрать наиболее вероятную последовательность слов, а не дать истину в последней инстанции. Отсюда и главная проблема: ИИ может уверенно сообщать сведения, которых никогда не существовало.
Подобные ситуации уже привели к громким скандалам. Например, в США адвокат Стивен Шварц представил в суд материалы, подготовленные при помощи ChatGPT. В качестве обоснования позиции нейросеть "нашла" решения по нескольким делам, которые, как выяснилось, никогда не рассматривались. Более того, ChatGPT выдала ссылки на несуществующие судебные акты. В итоге под удар попала репутация юриста, а сам случай получил широкий резонанс.
Известен и другой пример: исследователи из университета Джорджа Вашингтона попросили чат-бота описать скандалы с участием американских профессоров права. В ответ они получили абсолютно выдуманные истории, приписанные реальным людям, а в качестве доказательств — фальшивую ссылку на статью в Washington Post. Фактически это выглядело как фабрикация доказательств, пусть и непреднамеренная.
Неудивительно, что суды в ряде стран начали запрещать использование ChatGPT при подготовке процессуальных документов. В некоторых случаях адвокатов и прокуроров обязывают подтверждать, что представленный текст создан без помощи ИИ.
Опасность "юридических галлюцинаций"
Эксперты называют подобные ошибки "галлюцинациями нейросети". Юрист Ефим Казанцев, член Комиссии по правовому обеспечению цифровой экономики Ассоциации юристов России, отмечает:
«Для генеративных моделей нет разницы между правдой и ложью. Нейросеть всего лишь выстраивает слова в последовательность, которая выглядит максимально убедительно. Поэтому сгенерированный текст может совпадать с действительностью, а может и не совпадать. Но в любом случае будет звучать так, что человек, не понимающий принципов работы ИИ, легко поверит в его достоверность».
Именно эта убедительность делает искусственный интеллект опасным помощником в юридической сфере. Обыватель, получивший совет от ChatGPT, склонен воспринимать его как объективную рекомендацию. Но на деле ошибка может стоить не только времени, но и денег, а иногда — и свободы.
Характерный пример: в ответ на вопрос о возможности получения запретительного ордера в России нейросеть уверенно отвечает "да", хотя такого механизма в отечественном законодательстве просто не существует. Пользователь, доверившийся этой информации, может потерять драгоценное время и шанс на правильную защиту своих интересов.
Что показывают исследования
Проблема не ограничивается отдельными случаями. Стэнфордский университет опубликовал исследование, в котором проверил качество ответов разных генеративных моделей на юридические вопросы. Результаты оказались неутешительными:
- ChatGPT (GPT-3.5) ошибался в 69% случаев;
- PaLM2 от Google — в 72%;
- Llama2 от Meta — в 88%.
Особенно плохо ИИ справлялся с вопросами о прецедентном праве в судах низшей инстанции и с задачами, требующими тонкого юридического анализа. Более того, даже при изначально некорректном вопросе пользователи получали уверенный, но ложный ответ: нейросети не исправляли ошибку, а продолжали строить рассуждения на неверной базе.
Ученые сделали однозначный вывод: интеграция ИИ в юридическую практику должна происходить только под строгим контролем человека.
На запрос "Можно ли получить запретительный ордер в РФ" дан ответ: можно, даже можно временный запретительный приказ. Но это - не соответствует действительности!
На самом деле в России нет закона, который бы регулировал запрет на приближение, нет даже термина "запретительный приказ".
Ну ладно, чат ГПТ соврал. А что же нейронка гугла?
А примерно то же самое!
Почему полная замена юристов невозможна
Юрист — это не просто "человек, который пишет тексты". В его работе огромное значение имеют:
- Аналитика и стратегия. Нужно оценить все обстоятельства дела, выбрать верный путь защиты или нападения, а это всегда индивидуально.
- Знание практики. Даже при одинаковых нормах закона судебная практика может сильно различаться. Учитывать нюансы способны только живые специалисты.
- Этика и ответственность. Юрист отвечает перед клиентом, судом и законом. Искусственный интеллект ответственности не несет.
- Навыки коммуникации. Переговоры, допросы, работа с присяжными и судьями — это сферы, где человеческий фактор решает всё.
Пока ни одна нейросеть не способна заменить эти качества.
Перспективы: помощник, но не замена
Вместе с тем нельзя отрицать, что ИИ уже сейчас становится полезным инструментом. Он помогает:
- систематизировать большие массивы правовой информации;
- быстро находить подходящие формулировки;
- готовить черновики документов;
- обучать студентов на примерах;
- автоматизировать рутинные операции (например, сортировку жалоб или заявлений).
При правильном подходе это может сэкономить время и силы юристов, освободив их для более сложной и творческой работы.
Как считает преподаватель Moscow Digital School Александра Орехович:
«Запреты на использование ИИ в судах — мера вынужденная, связанная с отсутствием четкого регулирования. Но очевидно, что со временем такие технологии займут свое место в профессии. Важно лишь помнить: любой юридически значимый текст, созданный искусственным интеллектом, должен проходить двойную проверку человеком».
Говорить о "смерти профессии юриста" пока рано. Да, искусственный интеллект умеет писать связные тексты и способен облегчить работу специалиста. Но доверять ему полностью — значит рисковать и репутацией, и судебным исходом.
Сегодня ИИ может быть лишь ассистентом юриста, но не его заменой. И хотя будущее обещает появление более надежных моделей, пока лучший совет для человека, столкнувшегося с правовой проблемой, прост: не полагайтесь исключительно на нейросеть. По старинке — обратитесь к юристу.
Искусственный интеллект может многое: писать красиво, уверенно и даже убедительно. Но если дело дошло до реального суда — лучше иметь рядом не ChatGPT, а — своего юриста. Конечно, можно спросить у нейросети, как выиграть суд. Она с радостью расскажет — только вот судья вряд ли согласится с её версией. Поэтому лучше всё же обратиться к юристу: у него шансов на “галлюцинации” заметно меньше!
А лучше приходите ко мне на консультацию ВКонтакте: https://vk.com/id807197315
Благодарю за внимание! Подписывайтесь на блог!
ВАШ ЮРИСТ.