Американская телекоммуникационная компания Securus Technologies внедрила систему искусственного интеллекта (ИИ), обученную на многолетних записях телефонных и видеозвонков заключенных. Цель – прогнозировать и предотвращать преступления, совершаемые из тюрем или планируемые ими. Эта технология вызывает серьезные вопросы о конфиденциальности, правах заключенных и границах слежки.
В двух словах
- Securus Technologies использует ИИ для анализа коммуникаций заключенных.
- Система обучена на огромном массиве данных – записях звонков и сообщений.
- Цель – предсказание преступлений и выявление незаконной деятельности в тюрьмах.
- Правозащитники выражают обеспокоенность по поводу нарушения прав заключенных и отсутствия прозрачности.
Как работает система ИИ в тюрьмах?
Компания Securus Technologies начала разработку своих ИИ-инструментов в 2023 году. Для обучения моделей использовалась база данных, содержащая записи звонков заключенных из тюрем штата Техас, охватывающая семилетний период. Кроме того, разрабатываются модели, специфичные для отдельных штатов и округов.
В течение последнего года Securus проводила пилотное тестирование системы мониторинга разговоров заключенных в режиме реального времени. Клиентами компании являются тюрьмы, содержащие как лиц, ожидающих суда, так и отбывающих наказание. Некоторые из этих учреждений сотрудничают с Иммиграционной и таможенной службой США (ICE) для содержания иммигрантов, хотя Securus напрямую с ICE не сотрудничает.
„Мы можем направить эту большую языковую модель на целый кладезь данных, чтобы обнаружить и понять, когда о преступлениях думают или планируют, чтобы вы могли выявить это на более раннем этапе.“
– заявил президент Securus Technologies Кевин Элдер.
Применение и возможности системы
По словам Элдера, следователи в исправительных учреждениях могут использовать ИИ для мониторинга случайных разговоров или бесед лиц, подозреваемых в преступной деятельности. Система анализирует телефонные и видеозвонки, текстовые сообщения и электронные письма, выделяя фрагменты для проверки сотрудниками, которые затем передают их следователям.
Securus утверждает, что их система помогла пресечь торговлю людьми и деятельность банд, организованную из тюрем, а также выявлять сотрудников тюрем, занимающихся контрабандой. Однако компания не предоставила MIT Technology Review конкретных примеров, раскрытых с помощью новых ИИ-моделей.
Этические вопросы и опасения правозащитников
Заключенные и их собеседники уведомляются о записи разговоров, но не знают, что эти данные могут быть использованы для обучения ИИ-модели. Как отмечает Бьянка Тайлек, исполнительный директор правозащитной группы Worth Rises, это является „принудительным согласием“. Кроме того, поскольку заключенные в большинстве штатов платят за звонки, „вас не только не компенсируют за использование ваших данных, но и фактически взимают плату за сбор ваших данных“.
Представитель Securus заявил, что использование данных для обучения системы „не направлено на слежку или таргетирование конкретных лиц, а скорее на выявление общих закономерностей, аномалий и незаконного поведения во всей системе связи“. Однако, по мнению Корен Кендрик, заместителя директора Национального тюремного проекта ACLU, новая система ИИ создает систему инвазивной слежки, к которой суды установили мало ограничений.
„Мы остановим преступления до того, как они произойдут, потому что будем отслеживать каждое высказывание и мысль заключенных? Я думаю, что это одна из многих ситуаций, когда технология намного опережает закон.“
– говорит Кендрик.
Изменения в регулировании и финансирование ИИ
Securus получила возможность легче финансировать свой ИИ-инструмент благодаря недавней победе в споре с регулирующими органами о том, как телекоммуникационные компании могут тратить деньги, собранные с звонков заключенных. В 2024 году Федеральная комиссия по связи (FCC) провела реформу, запрещающую телекоммуникационным компаниям перекладывать расходы на запись и прослушивание звонков на заключенных. Однако, Securus лоббировала изменения в правилах, утверждая, что реформа 2024 года зашла слишком далеко.
В июне Брендан Карр, назначенный президентом Дональдом Трампом, заявил о переносе сроков принятия реформ 2024 года и даже выразил готовность помочь телекоммуникационным компаниям финансировать свои ИИ-системы слежки за счет сборов с заключенных. В октябре FCC проголосовала за новые, более высокие лимиты ставок и разрешила компаниям, таким как Securus, перекладывать расходы на безопасность, связанные с записью и мониторингом звонков, на заключенных.
Понравился разбор? Подписывайтесь на наши обновления.
Статья подготовлена digital-мастерской 3007.