52 подписчика
Маркировка ИИ-контента не помогла. Ее легко убрать 😜
Учёные Мэрилендского университета выяснили, что водяные знаки, внедряемые в изображения искусственным интеллектом, можно с легкостью удалить.
Речь идёт об общедоступных ИИ-генераторах, которые используются для создания фейковых фото и видео. Такой контент может легко ввести людей в заблуждение, поэтому были предприняты попытки создания специальной маркировки. Однако, как оказалось, пользы в них немного.
Учёные выяснили, что методы диффузионной очистки и атаки с подменой модели позволяют удалить водяные знаки. Ситуация вызывает недовольство у крупных технологических компаний, которые обещали бороться с дезинформацией через маркировку ИИ-контента, но пока не придумали более эффективный метод.
Около минуты
6 октября 2023