В Китае вводятся новые, беспрецедентно жесткие правила для разработчиков искусственного интеллекта. Теперь прежде чем нейросеть сможет выйти в публичный релиз, она должна пройти обязательную идеологическую проверку и успешно ответить примерно на две тысячи специальных вопросов. Власти рассматривают ИИ как потенциальный источник политических рисков и потому стремятся поставить его под полный контроль.
Как пишет The Wall Street Journal, китайские регуляторы требуют, чтобы модели отказывались отвечать как минимум на 95 процентов запросов, затрагивающих идеологические темы. В их числе — события на площади Тяньаньмэнь, вопросы прав человека, критика партийной власти и другие сюжеты, которые могут противоречить официальной позиции государства. Перечень вопросов регулярно обновляется, а сама проверка стала обязательной для всех компаний, работающих с генеративным ИИ.
Контроль не ограничивается только ответами чат-ботов. Обучать модели разрешено исключительно на заранее отфильтрованных данных. Перед использованием датасетов эксперты должны вручную проверить тысячи примеров контента, при этом не менее 96 процентов материалов должны быть признаны «безопасными». В нормативных документах перечислена 31 категория риска, самой серьезной из которых считается информация, способная подорвать государственную власть или социалистический строй.
Отдельное внимание уделяется распространению контента. Все тексты, изображения и видео, созданные с помощью ИИ, обязаны иметь маркировку и быть отслеживаемыми. Анонимное использование сервисов фактически исключается. Любые нарушения грозят мгновенным закрытием платформы. За последние месяцы, по данным WSJ, китайские власти уже удалили сотни тысяч ИИ-материалов, признанных незаконными или вредными.
В Пекине не скрывают причин такой политики. Руководство страны опасается, что способность чат-ботов формулировать самостоятельные ответы может подтолкнуть пользователей к сомнениям в официальных заявлениях и роли Коммунистической партии. Ранее председатель КНР Си Цзиньпин называл искусственный интеллект источником «беспрецедентных рисков», сравнивая его развитие без контроля — с движением по шоссе без тормозов.
При этом китайские компании продолжают развивать собственные модели и участвовать в международных рейтингах, особенно в сфере программирования. Однако эксперты отмечают, что по мере усложнения технологий жесткое регулирование может все сильнее сдерживать их конкурентоспособность на фоне более свободной среды, в которой сегодня работают американские разработчики.
Читайте также нашу статью о том, как Россия и Беларусь выпустят ИИ с традиционными ценностями.