В США представили программу для создания «сверхреалистичных» полицейских фотороботов. Система встревожила многих экспертов.
Как сообщает Vice, два независимых разработчика создали программу Forensic Sketch AI-rtist, которая отправляет описание подозреваемого в нейросеть DALL-E 2 и создает «сверхреалистичный» портрет с помощью ИИ.
Разработчики пока не выпустили программу, но уже пытаются связаться с полицейскими управлениями, чтобы начать тестирование.
Как работает система?
Forensic Sketch AI-rtist просит пользователя представить информацию о подозреваемом через шаблон, в котором запрашивается описание цвета кожи, пола, формы бровей, носа, возраста, волос, глаз и челюсти.
В системе также есть функция открытого описания, в которой пользователь может ввести любые имеющиеся у него данные о подозреваемом.
После подтверждения описания генерируется фоторобот (один или несколько) через OpenAI DALL-E.
Почему система тревожит экспертов?
По словам экспертов, такой подход может привести к серьезным проблемам, так как он не соответствует тому, как человек запоминает лица.
«Исследования показали, что люди помнят лица целостно, а не по чертам. Процесс создания фоторобота, основанный на описаниях отдельных особенностей, может привести к тому, что полученное лицо будет разительно отличаться от лица преступника», — сказала Vice директор по судебным разбирательствам Дженнифер Линч из Electronic Frontier Foundation.
Она также добавила, что, увидев сгенерированное изображение, свидетель может "заместить" им реальное лицо из памяти. Особенно если оно крайне реалистично.
Помимо этого, ИИ может еще больше усугубить всевозможные предубеждения. DALL-E 2 от OpenAI еще давно критиковался за стереотипные и расистские, а также женоненавистнические результаты.
К примеру, на просьбу создать фотографию члена банды система часто выдает изображения темнокожих мужчин.
Разработчики также признают, что невозможно выяснить, насколько точно сгенерирован фоторобот. К сожалению, подобные нюансы могут привести к серьезным последствиям.