Компания Cellebrite представила новые функции искусственного интеллекта в своих продуктах, позволяющие обрабатывать журналы переписки и аудиосообщения с изъятых органами правопорядка мобильных телефонов. По данным компании, технология, включённая в сервис Guardian, может автоматически суммаризировать ключевые сообщения, контекстуализировать историю поиска и даже выявлять «связи» между собеседниками.
Однако расширение роли ИИ в инструментах правоохранительных органов вызывает обеспокоенность у правозащитников, которые указывают на риск непрозрачных выводов.
«Когда мы имеем дело с результатами работы ИИ, они не всегда очевидны, а иногда и вовсе непонятно, на чём основаны выводы системы. ИИ "галлюцинируют" — если обучать систему исключительно на примерах судебных дел с обвинительными приговорами, она не научится определять, когда обвинения изначально были безосновательны», — подчёркивает представитель Американского союза защиты гражданских свобод (ACLU) Дженнифер Граник.
Продукты Cellebrite широко используются правоохранительными органами в разных странах. Главная технология — UFED — позволяет обходить код блокировки на некоторых смартфонах и извлекать из них информацию. Новые ИИ-возможности внедрены именно в Guardian, программную платформу, работающую по модели SaaS и предназначенную для анализа уже собранных улик.
По заявлению Cellebrite, генеративный ИИ упрощает рутинные задачи, но оставляет важные решения за человеком. Однако эксперты ACLU, в частности, обращают внимание на потенциальное желание органов правопорядка находить в больших массивах данных разные закономерности.
«В достаточно большой выборке всегда найдётся некая логика — пусть и неправильная или вводящая в заблуждение», — утверждает Граник.
При этом в Cellebrite заверяют, что криминалисты могут отследить источник любой «подсказки» от ИИ благодаря специальной пометке, а окончательные выводы всё равно сделает человек.
Компания называет новую технологию аналогом инструмента Draft One, который формирует полицейские отчёты на основе записей с бодикамер. Подобно Draft One, решение от Cellebrite не освобождают правоохранителей от необходимости проверять все сгенерированные результаты и основывать выводы на достоверных доказательствах.
Ещё по теме: