Возвращаемся к теме ИИ. Снова подчеркну, как человек с изначально техническим образованием, я - полностью за прогресс. Но прогресс с умом, а не за бездумные действия с шайтан-машиной, которой является сейчас LLM в неподготовленных руках. Особенно если он обучен на пикабу с дзеном.
Итак, практический опыт, с чем мы столкнулись в конце 2025 года.
Ситуация №1. Расшифровка аудиозаписи
Судья в последнем судебном заседании объявляет резолютивную часть решения (то, что суд пишет в решении после слова "решил:"), мы записываем её на аудио (на всякий случай, хотя не было такого за последние, наверное, 10 лет чтобы судья под официальную аудиозапись в суде озвучила одно, а потом в решении мы увидели совсем другое). Но на всякий случай, все равно делаем аудио, вдруг пригодится.
Спустя некоторое время получаем мотивированное решение суда, и там в резолютивной части ВООБЩЕ НЕ ТО. Доверитель, который лично был в последнем заседании, смотрит, тоже говорит НЕ ТО. Как же так, дорогая редакция? Причем там довольно длинная резолютивная часть, так как иск об обязании ответчика выполнить определенные действия и перечислен перечень действий, которые надо произвести.
Я сразу говорю доверителю: никогда такого не был (правда не было). Едем на прием в суд, показываем судье, судья тоже слегка удивлена, выносит определение исправлении описки в решении (допустимо, сталкивался с таким несколько раз).
Но все равно, выглядит как конфуз, потому что менять резолютивную часть решения суда - грешно, прямо вот совсем грешно, один из 7 смертных грехов наряду с гордыней и чревоугодием. Потому что иначе можно было бы сначала 100 рублей взыскать, а потом поправить на 100 миллионов.
Как же получилась такая ситуация? В моих фантазиях - судья дала помощнику поручение подготовить проект решения суда (допустимо, и даже нормально), помощник, не будь дурак, засовывает в ИИ аудиозапись судебного заседания (я же мамкин автоматизатор, смело внедряем ИИ повсеместно!) и пишет пропмт (тут я даже боюсь представить). В итоге ИИ генерит проект "судебного акта", который попадает судье.
При этом никто из них двоих (ИИ и помощник) не в курсе, что резолютивная часть в решении суда должна буква в букву совпадать с тем, что объявлено. Написано же примерно то же самое, и ладно. Зато помощник - великий автоматизатор и промпт инженер. А судье потом, особенно в конце года, физически некогда переслушивать аудио, чтобы сверить резолютивку.
В итоге - первый за 10 лет случай, когда в решении суда написано вообще не то, что было объявлено. Надеюсь, судья сделала выводы и дала мамкину промпт-инженеру ремня 🤡.
Ситуация №2. Экспертное заключение
Ведем судебное дело, истец и ответчик вели между собой многолетнюю переписку (распечатка на 100 страниц). Нам, для наших целей, необходимо проанализировать эту переписку с лингвистической точки зрения, чтобы подтвердить суду определенные аспекты отношений истца и ответчика. В целом, достаточно типовая задача, регулярно это делаем, суды принимают и учитывают. Обращаемся в экспертную организацию, с которой постоянно работаем, заказываем подготовку заключения.
Через некоторое время заключение готово, переписка проанализирована, выводы эксперта прямо прекрасные, полностью обоснованные, по тексту заключения анализируются конкретные сообщения из переписки, экспертом делаются нужные нам выводы.
Только дальше смотрим переписку и выясняется проблема - этих сообщений, которые цитирует эксперт по тексту заключения, в переписке ТУПО НЕТ! Я сначала своим глазам вообще не верю - это просто невозможно, какой идиот будет сидеть и выдумывать сообщения. Это же, как минимум, сложно и трудоемко - навыдумывать самому десятки сообщений, да и зачем?
Но потом становится понятно: очередной AI-специалист. Просто загрузил переписку в ЧатГПТ, просто попросил: сделай мне экспертное заключение. Нейросеть просто поднатужилась, просто погаллюцинировала и просто выдала.
Это, на секундочку, экспертная организация, которая за деньги делает экспертные заключения для судов. Туда люди обращаются, полагая, что эксперт обладает определенной квалификацией и выдаст научно обоснованное заключение, которое не стыдно в суд отнести. Не так печально, как в первом кейсе, там вообще суд и судебное решение, а у людей вообще-то в суде судьбы решаются.
Но тоже грустно. Эксперт-лингвист превращается в чувака, который засовывает переписку в ГПТ, и выдает результат за экспертное заключение, даже не проверяя, корректно ли вставлены цитаты из исходной переписки, и были ли там вообще такие сообщения.
Теперь будем перепроверять все заключения экспертов сами, отсеивая мамкиных AI-инженеров. Тем не менее, я снова повторю, что прогресс не остановить, и с этим нам придется жить дальше.
Подписывайтесь на наш телеграм канал, все новые посты (а также короткие мысли, зарисовки, комментарии, голосования и стримы) в первую очередь там: https://t.me/pgpartners_blog