Части 1, 2, 3, 4-1, 4-2, 5, 6, 7, 8, 9,
В конце 2022 года был представлен для массового пользования сервис ChatGPT, продвигается он массово и настойчиво для широкого пользователя. За прошедшие два года появились и другие аналогичные системы ЯндексGPT, GigaChat (Сбер) и несколько зарубежных. Достаточно интересная технология и, построенная на других принципах работы с информацией, чем известные нам поисковики, приложения.
Одним из наиболее ярких примеров таких технологий являются системы типа GPT (Generative pre-trained transformer, Генеративный предобученный трансформер), несомненно, заметен и предполагает развитие в малоисследуемые области деятельности человека. Эта технология, безусловно, демонстрирует значительный прогресс и открывает перед нами горизонты, кажущиеся еще недавно такими далекими. Эта технология, хотя и называется многими искусственным интеллектом (Artificial Intelligence; AI), но на самом деле - скорее, высокоразвинутая технология, использующая элементы искусственного интеллекта. Если обратить внимание, то даже названия к данному явлению предлагаются различные, но подразумевающие его отличие от ИИ: генеративный ИИ, GenAI.
Ключевым аспектом работы GPT является обработка естественного языка. Это позволяет системам взаимодействовать с пользователями на уровне человеческого общения, что делает их особенно привлекательными для широкого круга приложений. Ещё один важный термин, который нужно упомянуть, — это обработка естественного языка (Natural language processing, NLP. NLP — это, по сути, мост между языком машин и языком людей.
Наиболее подходящая аналогия, на мой взгляд, которая демонстрирует механизм работы GPT - это система автоподсказок T9 (рис. 2). Как T9 предугадывает слова, основываясь на том, что мы уже набрали, GPT работает по схожему принципу, но с большей сложностью и масштабом. GPT анализирует огромные массивы текста и учится предсказывать, какое слово должно идти следующим. Ничего сверхъестественного, коллеги. Просто очень сложный алгоритм.
Так как публикация предназначена для чтения юристами, то пройти мимо вопроса интеллектуальной собственности на результаты работы GPT-систем невозможно. Машина анализирует миллионы текстов, учится распознавать грамматические конструкции, определять связи между словами, улавливать контекст. А потом, на основе этих знаний, GPT-система может генерировать новый текст.
Вот мы и подошли к главному вопросу – вопросу авторства. Моя позиция по этому вопросу основана на аналогии с зеркалом: само зеркало может принадлежать одному человеку, но отражение в нем принадлежит другому лицу, которое видит себя в этом зеркале. Отображение в этом зеркале – это уже не зеркало, а вы сами, ваше отражение, ваша индивидуальность. И поэтому я склоняюсь к мнению, что право на результат работы системы должно принадлежать тому, кто инициировал процесс создания этого контента.
Рис. 2. Строка подсказчик T9 в мессенджере.
Развитие современных систем искусственного интеллекта происходит не только на уровне программного обеспечения, но и затрагивает их техническую составляющую. По различным данным энтузиасты в области ИИ планируют создание в Соединенных Штатах отдельного комплекса серверных мощностей, снабжаемого электроэнергией от собственной атомной станции. Объем предполагаемых инвестиций варьируется от 30 до 160 миллиардов долларов, согласно разным источникам, что свидетельствует о серьёзных намерениях и значительных финансовых возможностях компаний, занимающихся искусственным интеллектом. С другой стороны попадались сведения (сейчас не вспомню источник), что средняя GPT-система требует инвестиций до 3 млрд. долл., с учетом приобретения необходимого оборудования для серверов, наладки и обучения модели.
Если рассматривать эти цифры в контексте финансовых результатов, которые получил Сбербанк от использования технологий ИИ в своей деятельности, то упомянутые 300 млрд. руб. в 2023 году (Никита Худов, 47 мин 37 сек вполне позволяют окупить затраты в 3 млрд. долл. за несколько лет, все зависит от учетной политики организации эксплуатирующей GPT-систему.
Кроме того, нельзя забывать о существовании более экономичных вариантов. По словам Г. Грефа (15 мин. 39 сек) рисунок 3, но даже в этом случае он прогнозирует, что срок окупаемости может составлять около 10 лет. Развитие технологий распространяется и на малый и средний бизнес.
Например, Сергей Нотевский (Битрикс24, «От контекста до юрисдикции: 7 ключевых параметров при выборе LLM для вашего проекта») из компании Bitrix24 отметил, что стоимость аренды сервера с необходимыми видеокартами составляет примерно 200 тысяч рублей в месяц. Это весьма доступные вложения, особенно, если сравнить их с бюджетом на программу «Электронный город» - 22 873,00 тыс. руб. (2024 год), то видно, что такие финансовые затраты вполне вписываются в бюджет города с населением 250 тыс. чел.
Рис. 3. Китай форсирует AI-гонку (15 мин. 39 сек).
В контексте обсуждения социально-общественных последствий внедрения технологий искусственного интеллекта стоит обратить внимание на заявления сторонников революции в области «Цифрового регулирования».
Их лозунги звучат весьма радикально: «Юриспруденция на свалку истории!» и «Всех юристов заменит ИИ!» Эти лозунги отражают их уверенность в том, что искусственный интеллект способен заменить людей, и традиционные юридические практики могут стать устаревшими из-за внедрения ИИ и автоматизации. Герман Греф, генеральный директор Сбербанка, выразил подобные мысли: «Я вам сочувствую, вы все (юристы, которые не владеют навыками программирования) будете безработными. И, если и нужны будут юристы, то только те юристы, которые владеют навыками цифровых технологий. У нас (Сбер) робот-юрист участвует, практически, во всех процессах принятия решений. И делает это лучше, чем юристы. … Сегодня на другой стороне, в судах, имеется больше проблем, потому что они ловят от нас, автоматически сгенерированные иски. И там судьи пока еще живые, они вынуждены своим интеллектом, ну тратить его на совершенно стандартные процессы. Ну сейчас вот Верховный Суд, большие молодцы, они большое внимание уделяют технологиям, и я думаю, что там тоже будут изменения, все-таки нужно интеллектуальный потенциал судьи, работников судов использовать в тех делах, в которых действительно без человека не обойтись и никогда наверное не обойтись». (28 мин. 40 сек). Для представления о чем говорит Герман Оскарович представлю промпт на создание искового заявления в суд в западной юрисдикции.
Слова Германа Грефа свидетельствуют о том, что ИИ - не просто теоретическая возможность, а реальность, которая начинает активно внедряться в юридическую практику. Однако, коллеги, давайте не будем забывать об уникальных качествах человеческого разума, которые не могут быть полностью воспроизведены машинами. Юриспруденция - это не просто набор правил и процедур, а это искусство применения закона к уникальным и сложным ситуациям, требующим глубокого понимания человеческой природы, этики и справедливости. Таким образом, можно сделать вывод, что в свете развития искусственного интеллекта юриспруденция столкнется с серьезными вызовами и изменениями.
Наиболее успешными будут те юристы, которые смогут адаптироваться к новым условиям и использовать технологии в своей практике. Юристы должны уметь аргументировать, убеждать и находить решения в ситуациях, где нет четкого ответа. Важно, чтобы юридическая система не только приняла новые технологии, но и переосмыслила свою роль в свете этих изменений, чтобы обеспечить справедливость правосудия.
В настоящий период искусственный интеллект стал предметом горячих дискуссий и обсуждений. Когда мы говорим о правовых отношениях, мы имеем дело с одной из самых древних и фундаментальных спектров человеческой деятельности. Право пронизывает каждую сферу нашей жизни – от семейных отношений до международных договоров. Правовая система — это не просто набор правил, а сложный механизм, который регулирует взаимодействия между людьми.
Эмоции, порой, затмевают здравый смысл но, если обратиться к источникам права и посмотреть внимательно, то в приказе Приказ Минобрнауки России от 24.02.2021 N 118 «Об утверждении номенклатуры научных специальностей, по которым присуждаются ученые степени, и внесении изменения в Положение о совете по защите диссертаций на соискание ученой степени кандидата наук, на соискание ученой степени доктора наук, утвержденное приказом Министерства образования и науки Российской Федерации от 10 ноября 2017 г. N 1093» представлена градация, в которой отрасль «Право» отнесена к группе «Социальные и гуманитарные науки».
Аргументация «революционеров» может казаться логичной на первый взгляд, но при более глубоком анализе становится очевидным, что вся их логика сводится к цепочке, представленной на рисунке 4. Правовые отношения между людьми постоянно меняются и адаптируются под новые условия жизни. Парадокс в том, что многие сторонники революционных идей, обсуждая влияние искусственного интеллекта на общество, часто упускают из виду этот важный аспект. Они забывают, что правовые отношения между людьми существовали всегда, и будут продолжать существовать, пока есть хотя бы два субъекта права. Эта логика представляется очевидной, но она почему-то остается за рамками их рассуждений.
Рис. 4. Логика AI-революционеров при упраздении деятельности человека из области права.
Без сомнения принимается факт, что развитие технологий, в том числе в области юрипруденции, не остановить. Примером этого может служить портал JudgeAI. Юрий Козлов, практикующий юрист, посвятил этому вопросу серию публикаций, подробно рассматривая различные аспекты использования алгоритмов для анализа юридических данных (публ.1, публ.2, публ.3, публ.4).
В одной из этих публикаций Юрий Козлов, четко формулирует определенные ограничения Natural Language Processing: «использование алгоритмов обработки естественного языка (NLP) позволяет анализировать текстовые данные, выделяя ключевые факты и связи между ними, что способствует более точному пониманию сути дела». То есть, ни о какой возможной замене GPT-системами юристов не идет. Это, всего лишь, на сегодняшний день вспомогательный инструмент наряду и в комплексе с другими информационными технологиями.
В системе JudgeAI меня заинтересовала формулировка из тестового примера итоговой резолюции: «На основании представленных доказательств и анализа отклонений от идеальной модели поведения исковые требования удовлетворены в полном объеме» (Based on the evidence provided and the analysis of the deviations from the ideal behavior model, the claim requirements are satisfied in full). Анализ отклонений от идеальной модели поведения, как правило, включает в себя сравнение фактических действий сторон с теми стандартами или нормами, которые считаются «идеальными» в данной ситуации. В контексте права под этим термином «идеальная модель» подразумевается эталонный образец действий, который соответствует всем юридическим нормам и стандартам.
Это, своего рода, совершенная схема, к которой должны стремиться все участники правовых отношений. Однако в реальной жизни отклонения от этой модели неизбежны, и именно они становятся предметом судебного разбирательства. Интересно было бы посмотреть, как эта технология «анализа отклонений» работает в случае необходимости частичного удовлетворения иска?
Кроме того, важно отметить, что в случае частичного удовлетворения иска, суд должен использовать выводы, сделанные на основе анализа отклонений, для формирования рекомендаций или указаний для сторон, чтобы избежать подобных ситуаций в будущем. Это может включать в себя разъяснения, какие именно действия или доказательства были недостаточными для полного удовлетворения иска.
Подводя промежуточный итог этой части рассуждений, могу предположить, что любой практикующий юрист, имеющий опыт и знания в своей области, способен сформулировать несколько ключевых вопросов, касающихся фундаментальных принципов права, которые могут оказаться сложными для решения современных AI-систем.
Технология GPT, несомненно, продолжит развиваться и привлекать всё большее внимание общественности. История показывает, что всегда найдутся энтузиасты, вдохновленные успехами технологий, которые будут выступать в суде с требованиями признать результаты их взаимодействия с GPT, как высшую форму юридического анализа. Однако подобные попытки вряд ли окажутся успешными без учета сложных этических и правовых аспектов использования таких технологий.
Попробую формализовать цепочку рассуждений, показывающую, противоречивость этих требований закону. Начнем с анализа норм, изложенных в законах, касающихся языков и их использования в правовом контексте.
Во-первых – ст.8, Закон РФ от 25.10.1991 N 1807-1 «О языках народов Российской Федерации»: «В сферах общения, подлежащих правовому регулированию в соответствии с настоящим Законом, право выбора и использования языка общения гражданами Российской Федерации определяется законодательством Российской Федерации и субъектов Российской Федерации» и п.1 ст.3 53-ФЗ «О государственном языке Российской Федерации»: «Государственный язык Российской Федерации подлежит обязательному использованию: … 4) в конституционном, гражданском, уголовном, административном судопроизводстве, судопроизводстве в арбитражных судах, делопроизводстве в федеральных судах, судопроизводстве и делопроизводстве у мировых судей и в других судах субъектов Российской Федерации».
Таким образом, существует четкая правовая основа, требующая использования определенного языка в официальных и юридических контекстах. Однако современные технологии обработки естественного языка, в которых разработчики этих систем, стремясь к эффективности, реализуют процесс токенизации текста, который включает в себя процедуры лемматизации, стемминга и удаления стоп-слов. Эти процессы приводят к существенному сокращению объема обрабатываемого языка, делая невозможным точное определение того, какие именно элементы языка были удалены или и проводится сжатие корпуса используемого языка (рис. 5).
Из рисунка 5 видно, что при анализе GPT-системы используют существенно усеченный объем языка, не весь массив языка, а лишь его часть, но при этом, каким образом он сжат, определить сложно. То есть, требования ст. 12, 67, 156 ГПК РФ и аналогичные требования других процессуальных кодексов не могут быть выполнены. Так как эти статьи требуют определенного уровня языковой точности и полноты, но этот уровень не может быть обеспечен из-за особенностей обработки языка в таких GPT-системах.
Рис. 5. Сжатие существующего корпуса языка при приведении запроса к форме обрабатываемой GPT-системами
Проанализируем «от противного», требование о признании машинной резолюции превосходящей решение, которое полученное в рамках классической системы судопроизводства. Допустим вопрос признания машинного решения в качестве окончательного вердикта в судебном разбирательстве решенным и машинное решение превосходит решение, полученное в обычном процессе. Возникает дилемма: одна из сторон предлагает использовать результат, полученный с помощью GPT-системы, утверждая, что оно превосходит решение, которое могло бы быть принято в рамках традиционной судебной практики.
Однако стоит учесть, что характер работы этих систем таков, что повторный запрос от любой из сторон к ним может привести к совершенно иному ответу. Более того, если обратиться за решением проблемы к разным GPT-сервисам, вероятность получить идентичные ответы стремится к нулю.
Таким образом, столкнувшись с множеством возможных вариантов, каждая из сторон будет вынуждена выбирать наиболее подходящее ей решение, что приведет к возникновению нового спора.
Следовательно, встают вопросы: если мы допускаем, что машинное решение действительно обладает большей квалификацией, чем человеческое, то какой же из множества полученных ответов является самым точным и соответствующим обстоятельствам дела? Какая из сторон сможет обосновать свой выбор наилучшего варианта? Ответ очевиден: ни одна из сторон не способна сделать это без обращения к традиционным методам правосудия.
Таким образом, процесс неизбежно возвращается в стены суда, где решение должно приниматься с учетом всех обстоятельств дела и на основе глубокого анализа, проведенного людьми.
Развитие и расширение использования GPT-систем прогнозируется, практически, всеми. Прогнозируется их дальнейшее развитие и широкое внедрение в различные области общественной деятельности, включая образование и бизнес.
В качестве примера можно привести исследование («Искусственный интеллект и высшее образование: возможности, практики и будущее» Яндекс Образование), а на рисунке 6 этого исследования представлена диаграмма, иллюстрирующая один из ключевых элементов автоматизации бизнес-задач с использованием ИИ, и прогресс его развития на ближайшие годы.
Рис. 6. Структура расширения использования автоматизированных решений при выполнении рутинных задач к 2027 году.
Еще одним аспектом текущей ситуации при понимании свойств рассматриваемого явления является то, что один и тот же аспект может иметь несколько названий, а несколько разных явлений могут обозначаться одним названием в различных исследованиях. Из-за указанного, научная дисциплинированность требует от меня определенной таксономии описываемых явлений.
При этом, вполне понимаю, что по критерию Поппера, любая научная теория или система классификации должна быть открыта для критики и возможной замены, если появятся новые данные или более убедительные теории.
Это означает, что предложенная мной таксономия будет актуальна лишь в этой публикации и справедлива, пока не появятся новые фундаментальные исследования, требующие её пересмотра или полной отмены.
Давайте рассмотрим технологию GPT-систем через призму аналогий с материальным миром, используя ассоциации из области физики.
Первый аспект технологии – GPT-система представляет собой новый шаг в развитии текстовых процессоров (например, Microsoft Word), подобно тому, как Excel стал следующим этапом после калькулятора. Если раньше пользователи работали с текстом в текстовых процессорах, то теперь, с эволюцией в GPT-системы, они могут взаимодействовать с текстовыми данными на новом уровне сложностей и возможностей.
Вторая группа аспектов выражена в запросе к GPT-системе, который называют промпт (prompt). На рисунке 6 показаны используемые ассоциации из материальной физики. Выбрал область физики по критерию, что этот предмет наиболее доступен любому читателю. Запрос (промпт) принято разделять на следующие составляющие:
А) Роль (стиль для визуальных образов);
Б) Задача – алгоритм и цель преобразований исходного материала;
В) Контент – исходное выражение, содержащее факты;
Г) Формат – тип представления результатов обработки запроса.
Аналогии из материального мира, используемые мной для моделирования происходящих в GPT-системах процессов, следующие:
А) Роль (стиль для визуальных образов) – аналогично выбору места и ширины интервала сканирующего источника электромагнитного излучения из существующего диапазона. Например, рентгеновские лучи используются для диагностики, а видимый свет — для освещения, инфракрасное излучение – при проверке банкнот. В контексте GPT роль определяет тон и подход системы к обработке текста и подразумевает стиль, в котором будет представлен ответ. Например, это может быть научный стиль, разговорный или любой другой, который соответствует ожиданиям пользователя;
Б) Задача – алгоритм и цель преобразований исходного материала. Аналогией можно представить физические трансформации, которые происходят в реальном мире – сжатие-растяжение, изменение массы вещества (из механики), изменение амплитуды и частоты электромагнитного излучения (оптика), изменение энергии и плотности газов (статистическая физика) и т.п. В GPT это означает, что система должна выполнять определенные операции над текстовым материалом, чтобы достичь поставленной цели;
В) Контент – исходное выражение, содержащее факты. Аналогией является любое физическое вещество, которое закладывается в реактор-преобразователь: топливо в ДВС, ингредиенты в тесто кондитера, кирпичи при строительстве и т.п. В случае GPT контентом являются исходные факты, данные или идеи, которые загружают в систему;
Г) Формат – тип представления результатов обработки запроса. Здесь аналогией можно представить агрегатное состояние результата, который мы хотим получить – твердое, жидкое, газообразное, плазма, электромагнитное или гравитационное излучение и т.д. В рамках GPT формат определяет, каким образом результаты будут представлены пользователю: текстовый документ, таблица, график, мультимедиа и так далее.
Рис. 7. Аналогии частям промпта.
Ниже на рисунке 8 представил, как визуализируют тему этой публикации генераторы картинок.
Рис. 8. Визуализации темы материала нейросетями.
При завершении работы над публикацией я долго размышлял о тех случаях, когда инструменты, предлагаемые системами GPT, могут оказаться особенно полезными. В процессе размышлений на ум приходила одна категория ситуаций, знакомая каждому юристу. Ситуации, в которых бывал каждый практикующий юрист, – это когда знакомишься с аргументацией встречной стороны и понимаешь, что аргументация, представленная соперниками, практически, подавляет тебя, своей монолитной, железобетонной неприступностью. Создает впечатление неопровержимой убедительности и логической обоснованности доводов. Фразы оппонента сносят все ваши построения, как поток горной реки, факты противника связываются друг с другом, словно камни в непреодолимой стене.
На этом этапе необходим инструмент, способный препарировать словесные конструкции, подобно искусному хирургу, вскрывая каждый довод, анализируя каждую фразу, выявляя малейшие неточности и противоречия, просеивать их доводы и искать малейшие трещины в стенах их позиции.
Все достижения GPT-систем могут быть использованы в работе юриста. На мой взгляд, в ближайшем будущем - это следующие направления:
А) Систематизация материалов по процессу;
Б) Поиск фактов, утерянных из-за технических или юридических условий ситуации;
В) Оттачивание аргументации в логическом, эмоциональном и нормативном направлениях;
Г) Отслеживание успехов и провалов в судебном процессе.
Продолжение следует
Часть 1. Давайте дружить
Часть 2. Криминалистическое описание
Часть 3. Дефекты печати, пока не преодолимо
Часть 4-1. Систематизация (1)
Часть 4-2. Систематизация (2)
Часть 5. Инструменты GPT
Часть 6. Zero-shot - контролируй соперника
Часть 7.
Часть 8.
Часть 9.