Китайские власти тестируют ИИ-модели на соответствие «основным социалистическим ценностям»
Правительство Китая в рамках политики строгого контроля над технологиями искусственного интеллекта (ИИ) начало проводить тестирование крупноязыковых моделей ИИ, чтобы гарантировать их соответствие основным социалистическим ценностям. Управление киберпространства Китая (CAC) обязало технологические компании, включая гигантов как ByteDance и Alibaba, а также стартапы Moonshot и 01.AI, подвергнуть свои модели ИИ обязательной государственной проверке.
Основной фокус проверок — это адаптация моделей для исключения политически чувствительного контента. Это включает в себя анализ обучающих данных, фильтрацию информации и обновление базы данных чувствительных ключевых слов, которые должны обновляться еженедельно — в частности, модели не должны отклонять более 5% задаваемых вопросов.
Модели ИИ, такие как чат-боты, активно используют классификаторы для сортировки выходных данных по предопределенным группам, аналогично работе фильтров спама в электронной почте. Исследовательская лаборатория Фуданьского университета отметила, что чат-бот ByteDance, владельца TikTok, показал наилучшую способность соответствия политике Пекина с показателем «соответствия безопасности» 66, 4%.
Что такое искусственный интеллект: