Минцифры предлагает внедрить искусственный интеллект для ответов на обращения граждан и проверки кандидатов на госслужбу. «Ямал-Медиа» выяснил, в чем преимущества и риски использования генеративного ИИ в государственном управлении.
Алгоритмы на госслужбе: что предлагает Минцифры
Министерство цифрового развития выступило с инициативой: провести масштабный эксперимент по внедрению генеративного искусственного интеллекта в госуправление. Согласно проекту постановления, опубликованному на портале правовой информации, нейросети будут применяться в нескольких ключевых направлениях.
Фото: metamorworks/Shutterstock/Fotodom
Во-первых, ИИ будет анализировать резюме претендентов на госслужбу и составлять для них тестовые задания. Система сможет оценивать соответствие кандидатов требованиям должности и генерировать задания для проверки компетенций.
Во-вторых, искусственный интеллект будет обрабатывать обращения граждан, определять их тематику и готовить ответы на типовые запросы. По замыслу разработчиков, это должно снизить нагрузку на госслужащих и ускорить процесс обработки обращений.
Также нейросети будут анализировать законопроекты Госдумы на предмет ошибок, генерировать контент для официальных сайтов госорганов и оценивать достоверность информации, включая контент, созданный самим ИИ.
В документе описано несколько способов создания сервисов, которые планируют использовать при проведении эксперимента. Их могут разрабатывать как Минцифры, так и сторонние компании на основе генеративных моделей ИИ. В проекте подчеркивается необходимость обеспечения информационной безопасности этих сервисов, однако конкретные меры не указаны.
Важно отметить, что проект исключает использование искусственного интеллекта для прогнозирования социально-экономических процессов и работы с гостайной. Доступ к системам получат только госслужащие после идентификации через ЕСИА с подтверждением должности.
Можно ли будет достучаться до чиновников
Один из ключевых вопросов — насколько внедрение ИИ действительно улучшит качество взаимодействия граждан с госорганами?
Фото: TippaPatt/Shutterstock/Fotodom
Павел Мясоедов, директор компании «Интеллектуальный Резерв», в беседе с «Ямал-Медиа» отметил существенное ограничение современных систем: «Искусственным интеллектом эти механизмы являются очень условно. На самом деле это машинное обучение, натасканное на типовых вопросах и ответах из прошлого». Например, так работает сервис «Робот Макс» на портале «Госуслуги», напомнил IT-эксперт. Задавая вопрос этому сервису, пользователь получает ответ, сгенерированный с помощью ИИ.
«Разница между старыми ответами и нынешними, сгенерированными искусственным интеллектом, заключается в том, что последний немножко «причесывает» текст с помощью языковой модели, но глубины там нет. Когда возникает сложный вопрос, происходит переключение на оператора».Павел Мясоедовдиректор и партнер компании «Интеллектуальный Резерв» («ИТ-Резерв»)
Удовлетворенность роботизированными ответами действительно низкая. Людям не нравятся типовые отписки, и основные риски связаны с тем, что после форсированного внедрения генеративного ИИ в госуправление таких типовых отписок будет больше, а людей, способных вникнуть в проблему и полноценно ответить, из-за оптимизации станет меньше, полагает Павел Мясоедов. Поэтому «речь пока идет не о полном вытеснении человека искусственным интеллектом, а о том, что ИИ станет вспомогательным инструментом в принятии решений».
Фото: Shutterstock AI/Shutterstock/Fotodom
Тем не менее опыт использования ИИ для обработки обращений уже широко внедряется на местах. Еще в апреле этого года Минцифры сообщило о создании около 500 региональных информационных систем с использованием технологий ИИ. Но, по оценке ведомства, большинство из этих систем находятся в зоне риска, так как не используют проверенные технологии.
Этический аспект: чего не учли разработчики
Использование ИИ в сфере государственного управления поднимает серьезные этические вопросы, которые пока также не получили должного внимания в проекте Минцифры.
Статья 33 Конституции РФ закрепляет право граждан на обращение в государственные органы. Однако пока нет правового решения, может ли автоматизированный ответ, сгенерированный искусственным интеллектом, считаться полноценной реализацией этого права.
Фото: Andrii Iemelianenko/Shutterstock/Fotodom
Кроме того, неясно, как будет обеспечиваться персональная ответственность за решения, принятые с помощью ИИ. В мировой практике существуют разные подходы к этому вопросу. Немецкий подход предполагает, что ответственность за действия искусственного интеллекта лежит на людях, ответственных за их программирование и структуру. Британский подход, напротив, рассматривает искусственный интеллект как самостоятельный субъект права.
В российском контексте этот вопрос особенно актуален. Если ИИ неверно оценит важность обращения или предоставит некорректный ответ, неясно, кто будет нести за это ответственность: пока нет нормативной базы, которая бы регулировала этот вопрос.
«Готов ли ИИ технически к учету всех аспектов сложных обращений? Он готов отвечать на те обращения, которые были в прошлом. Если поступает новое обращение, и такого рода обращения не было ранее, искусственный интеллект может отвечать невпопад, и качество его ответов будет оставлять желать лучшего».Павел Мясоедовдиректор и партнер компании «Интеллектуальный Резерв» («ИТ-Резерв»)
Кадровый вопрос: что проверит ИИ
Использование искусственного интеллекта для проверки кандидатов на госслужбу вызывает не меньше вопросов. Согласно проекту, ИИ будет анализировать резюме, оценивать соответствие кандидатов требованиям и генерировать тестовые задания.
Фото: New Africa/Shutterstock/Fotodom
Искусственный интеллект, по мнению IT-эксперта, действительно эффективен при первичном отборе кадров. «Проверка резюме на соответствие требованиям организации, анализ ответов претендентов, даже анализ их голоса и поведения — все это может сделать робот. Более того, он способен подготовить задания, исходя из ответов человека, чтобы проверить его навыки и выявить слабые стороны», — пояснил Павел Мясоедов.
Однако при отборе высококвалифицированных специалистов и руководителей возможности ИИ ограничены. «Когда возникают потребности найма высококвалифицированного человека на руководящую позицию, искусственный интеллект справляется хуже, потому что нужно проверять креативность, смотреть опыт человека непредвзятым взглядом. Плюс есть субъективные, эмоциональные требования к кандидату», — добавил IT-эксперт.
«Для кадровых служб искусственный интеллект сможет решать базовые задачи самостоятельно, замещая примитивные позиции. Для более квалифицированных кадровых работников, с богатым опытом, ИИ станет вспомогательным инструментом, помогающим решать повседневные задачи быстрее и удобнее, подсказывая типовые ответы или извлекая необходимую информацию из различных источников».Павел Мясоедовдиректор и партнер компании «Интеллектуальный Резерв» («ИТ-Резерв»)
Сокращения неизбежны: кто потеряет работу
Внедрение искусственного интеллекта в госуправление неизбежно приведет к оптимизации штата служащих. В первую очередь сокращения коснутся сотрудников, выполняющих рутинные задачи.
Фото: Stokkete/Shutterstock/Fotodom
«К сожалению, такие сокращения будут происходить. В кол-центрах, где раньше множество людей отвечало по скриптам, теперь это делает искусственный интеллект, причем лучше человека: он не ошибается, не использует сорные слова, всегда следит за пунктуацией», — отметил Павел Мясоедов.
Впрочем, высококвалифицированные специалисты и руководители будут меньше подвержены риску замещения. «Чем более высокопоставленная должность, чем больше она требует креативности, нестандартных подходов и организаторских навыков, тем сложнее искусственному интеллекту соперничать с человеком. Там вытеснение будет происходить медленнее или не будет происходить вовсе», — считает IT-эксперт.
Правовое регулирование ИИ в России
Одна из ключевых проблем использования ИИ в госуправлении — недостаточное правовое регулирование. Еще в 2020 году был принят Федеральный закон № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве».
Этот закон закрепил понятие «искусственный интеллект» как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».
Фото: Andrey_Popov/Shutterstock/Fotodom
Но многие вопросы остаются нерешенными. Не определен статус искусственного интеллекта как субъекта права, не установлены четкие правила ответственности за решения, принятые с помощью ИИ, отсутствуют стандарты безопасности и защиты данных при использовании нейросетей в государственном управлении.
Вопрос безопасности данных при использовании ИИ в государственном управлении вообще требует отдельного внимания, подчеркнул Павел Мясоедов. Но вовсе не в отношении неправомерного доступа к данным. «Сейчас информационная безопасность обеспечивается целым комплексом программно-аппаратных технологий и определенными нормативами. Если требуется высокий уровень безопасности для хранения персональных или медицинских данных, требуются разные уровни защиты в зависимости от отрасли. Искусственный интеллект с этим никак не связан, разве что он может хранить информацию в контейнере, защищенном по тому или иному классу защиты», — рассказал он.
Все будет зависеть от того, кто использует нейросети, от человека и его целей. «Искусственный интеллект — это инструментарий, программа, которая может работать как в безопасном, так и в опасном контуре. Дополнительных рисков по хранению данных она не создает. Вероятность того, что она сама преобразует информацию и отправит третьему лицу, крайне мала», — заключил Павел Мясоедов.
Ранее мы рассказали, как распознать нейроконтент и кого накажут за дипфейки.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».
