Обсуждение вопросов применения искусственного интеллекта в юридических науках тесно связано с вопросами пределов гносеологии вообще. То есть, насколько то или иное знание может быть познано вообще и где проходит граница между анализом старого знания и тем озарением, той вспышкой, которая рождает знание новое.
Вопрос этот непраздный и в разные годы по разному изучался философами науки. К этой небольшой заметке я бы посоветовал прочитать две статьи разных авторов, написанных в разные годы: легендарного Павла Флоренского, которого занимали пределы гносеологии ещё в 1913 году, и совсем свежую, 2024 года, статью преподавателя из Санкт-Петербурга Олега Чибисова, посвящённую гносеологии машинного обучения сильного искусственного интеллекта.
Важно в них одно: гносеология познания, в том числе применительно к искусственному интеллекту - вопрос не технический, а философский, требующий навыков феноменологической редукции, а также понимания того, какие конкретно вопросы той или иной проблемы являются значимыми в конкретной ситуации.
Российские юристы избалованы тем, что абсолютное большинство решений абсолютного большинства судов всех инстанций и всех юрисдикций оцифрованы. Разве что в этот весьма обширный перечень не включены секретные приговоров по государственной измене и судебные приказы мировых судей.
То есть, у современных юристов есть десятки миллионов решений, ранее принятых людьми по вопросу применения десятков тысяч нормативных правовых актов. И эти решения тем или иным образом "оцифрованы". Подобно тому как "оцифрованы" миллионы словоупотреблений в переводах текстов с одного языка на другой.
Но что мы понимаем под оцифровкой? Свободу поиска любого решения по любому делу? Полную "разметку" всех решений по тем или иным признакам? Хорошо, теперь не требуется значительного количества времени, чтобы понять, что по вопросу А в 99% случаев суды выносят решение Х. А по вопросу Б - в 55% случаев решение Y, а в 45% - решение Z.
Замечательно, в результате проделанной технической работы мы за минуту, а не за годы, получили некое "знание", но будет ли это являться полноценным "знанием" или же это всё равно определённое сырьё для производства нового знания? Если мы отвечаем на этот вопрос первым образом, то можно и принятие решения "передать" кому бы то ни было или чему бы то ни было, но на каком знании должно приниматься решение этим алгоритмом? Вопрос явно непраздный.
Предположим, что если предыдущая практика в пользу принятия того или иного решения составляет 90% и на основании этих 90% априорной вероятности гипотезы вы настраиваете определённый автоматический "приниматель решений", будь то практикант, помощник судьи или компьютерная программа. "Если загорится красная лампочка - нажми кнопку 1", "если загорятся красная и зелёная лампочка - нажми кнопку 1, а потом через 30 секунд кнопку 2", "каждому водителю с положительным тестом на алкоголь надо назначить лишение прав на 1,5 года и штраф 30 тысяч рублей". Что получится в результате? Что через определённое время, после нескольких итераций принятия таких решений, решения, отобранные на меньшей вероятности, будут приниматься с вероятностью, равной ста процентам. Оно и понятно - алгоритм это просто алгоритм, подобно тому, как двигающийся портрет Дамблдора на стене это просто портрет, пусть и обогащённый ранее имевшимися знаниями самого Дамблдора.
Отсюда и возникает вопрос пределов того, что может быть познаваемо и какие именно решения могут приниматься в "автоматическом режиме", а какие решения не могут быть алгоритмизированы в приниципе, несмотря на свою, казалось бы, заранее предрешённую типичность и обыкновенность. Более того - в процессе алгоритмизации ранее совершённые ошибки не просто фиксируются и преумножаются, но и не могут быть исправлены, потому что по мере приближения принимаемых "правильных" и "обоснованных" решений к ста процентам у нас просто отсутствует база для опровержения ранее сделанных выводов, так как для этого необходимо выйти за границы познания, а "искусственный интеллект", как простой вероятностный алгоритм для этого не предназначен в принципе.
Антиутопия использования "искусственного интеллекта" при принятии юридических решений предполагает ряд постулатов, априорно принимаемых на веру, внешне кажущихся аксиоматическими, но при более внимательном рассмотрении рассыпающихся в прах, будучи переведёнными в машиночитаемый код единиц и нулей, "да" - "нет".
То, что программа для ЭВМ лучше живого судьи предсказывает вероятность того или иного события, не означает, что эта программа лучше, чем живой судья. Это означает лишь то, что живой судья учитывает какие-либо факторы, которые не учитывает и не может учесть программа для ЭВМ. Если средний размер наказания у судьи П. выше, чем у судьи Л., а у них обоих - выше, чем "в среднем по стране", само по себе не означает ничего. Даже если мы попробуем учесть все остальные факторы - возраст, рост, вес, время обеда или стаж работы. Потому что если в целях "усреднения" передать дела алгоритму, то мы получим лишь "среднее" с учётом того "знания", которое было у алгоритма на момент принятия решения о передаче ему этих знаний. А дальше "самообучающаяся машина" сделает своё дело, подобно тому, как практикант во всех присылаемых "на проверку" договорах вместо неустойки в 0,5% в день, зачёркивая, ставит ставку рефинансирования.
Но, понятно, это фантастически удобно для тех самых "практикантов" - не выходить за возможные границы познания, подменяя дискреционные полномочия тем самым алгоритмом.
В результате основные решения будет принимать не тот, кому "помогает" алгоритм, ошибочно называемый "интеллектом", а тот, кто этот алгоритм формирует. И тогда границы познания общества будут определяться не возможными границами познания и принятия решения всех его членов, а безымянным настройщиков единиц и нулей в программе, которую, на следующем этапе, уже и осмыслить будет некому, подобно тому, как в отсутствие живых переводчиков, некому будет "засовывать" в алгоритм новые слова живого языка.