С ростом возможностей нейросетей встает вопрос о контроле над контентом, который они генерируют. Фейки, мошенничество, дипфейки – все это представляет угрозу как для пользователей, так и для развития направления ИИ в целом.
Мировые лидеры уже предпринимают шаги по регулированию этой области. OpenAI и Meta, два гиганта в сфере ИИ, уже начали маркировать изображения, созданные нейросетями. Это позволяет людям отличать реальные фотографии от искусственно созданных.
В России же Минцифры вскоре может начать работу над системой выявления недостоверных данных, сгенерированных ИИ. Это важный шаг, который поможет защитить пользователей от фейков и мошенничества.
Эксперты сходятся во мнении, что для эффективного регулирования необходимо:
- Законодательно закрепить термины "нейросеть", "дипфейк", "искусственный интеллект".
- Разработать систему маркировки контента, созданного нейросетями.
- Найти баланс между контролем и свободой развития ИИ.
Маркировка контента может стать компромиссным решением. Она позволит людям осознанно подходить к информации, получаемой из интернета.
Сегодня нейросети используются не только для создания фейков. Они могут генерировать музыку, писать сценарии, создавать арт-объекты.
К слову, Система "Зефир", разработанная АНО "Диалог Регионы", уже сейчас помогаст выявлять дипфейки. В прошлом году она проверила более 3,5 тыс. единиц медиаконтента.