Техническая возможность внедрения цензуры в алгоритмы нейросетей становится одной из центральных тем дискуссии о безопасности цифровых технологий в России.
Идея введения системного контроля над ответами алгоритмов была озвучена заместителем главы Минцифры Александром Шойтовым, который подчеркнул, что искусственный интеллект в отечественной юрисдикции должен функционировать под строгим надзором, отличным от правового регулирования действий человека. Реализация подобных инициатив сводится к созданию многоуровневых программных фильтров, которые отсекают потенциально опасный контент еще на этапе обработки входящего запроса.
Коммерческий директор компании "Цельс" Артем Капнинский пояснил, что архитектура нейросетей позволяет интегрировать барьеры как на стороне пользователя, так и при генерации финального результата.
Как сообщается на сайте издания MoneyTimes, эксперт классифицирует такие меры скорее как технические предохранители, нежели классическую цензуру. Капнинский отметил, что пока искусственный интеллект не обладает субъектностью, управляемость процессом передачи информации остается ключевым преимуществом разработчиков, позволяя блокировать запросы, нарушающие этические нормы.
"Фильтрами возможно. Это же поступление либо передача какой-то информации в любом случае. Прежде чем в саму нейронную сеть что-то попадает, она проходит какие-то ступени. На этом этапе можно", — подчеркивает Капнинский.
Согласно мнению специалиста, наиболее критичные ограничения касаются безопасности: алгоритмы не должны выдавать инструкции по ведению деструктивной деятельности или созданию оружия. Это подтверждает общий тренд на гуманизацию технологий, когда даже передовой нейрочип Neuralink или бытовые системы проходят через сито безопасности.
"Внедрение программных ограничений — это необходимая цифровая гигиена, которая предотвращает использование нейросетей в преступных целях. Однако важно соблюсти баланс, чтобы фильтры не подавляли творческий и научный потенциал технологий, на которых сегодня даже российские школьники учатся решать сложнейшие задачи на мировом уровне", — отметил в беседе с Pravda.Ru инженер по информационной безопасности Максим Петров.
Ответы на популярные вопросы об искусственном интеллекте
Можно ли технически запретить ИИ отвечать на определенные вопросы?
Да, это реализуется с помощью пре-процессинга запросов, когда специальные фильтры анализируют текст пользователя до того, как он попадет в основную модель.
В чем отличие цензуры ИИ от цензуры человека?
Для нейросети это жесткий программный код и математические веса, которые физически не позволяют системе сгенерировать запрещенный контент.
Зачем нужны ограничения для нейросетей?
В первую очередь для соблюдения этических норм и предотвращения распространения опасных знаний, например, инструкций по совершению преступлений.
Кто определяет, что именно должен фильтровать ИИ?
Критерии фильтрации задаются разработчиками на основе государственного законодательства и корпоративных этических кодексов.