В Британии задержали робокопа — полицейский собирал доказательную базу по уголовным делам с помощью ИИ.
Дело уже стало резонансным. Во-первых, если обвинения подтвердятся, это будет первым судебным эпизодом, который касается использования искусственного интеллекта в работе полиции.
Во-вторых, буквально за пару дней до скандала британское правительство профинансировало разработку PoliceAI, который должен помочь ловить врагов его величества.
Сегодня мы разберёмся, как полиция может использовать ИИ, когда нейростражи порядка заполонят улицы и кто превратил американского копа в жабу.
А вы бы доверили AI вершить правосудие? Ответы принимаются в комментариях!
В чём обвиняют робокопа?
Офицер полиции из Дербишира, как пишет FT, обвиняется в препятствовании правосудию.
Неназванный офицер, считает следствие, мог использовать генеративный ИИ для подготовки документов и материалов, по которым затем шло уголовное делопроизводство. Сейчас следствие проверяет, не мог ли AI "с нуля" сгенерировать необходимые данные и выдать их за реальную работу полиции.
В двух словах: нейронка могла банально сфальсифицировать доказательную базу и подогнать решение под ответ, на основе чего суд, в свою очередь, мог принять неверное решение.
Что за PoliceAI?
Незадолго до резонансного дела британское правительство запустило проект PoliceAI стоимостью порядка £ 75 000 000 во всех подразделениях Англии и Уэльса. Это часть большой инициативы по внедрению ИИ в британскую полицию, которая должна заработать в 2028 году, — на всё про всё выделили £140 млн.
На бумаге у англосаксов всё пока красиво: в пилотном режиме ИИ смог обработать 800 часов видеозаписей по делу о похищении всего за три часа, а также быстро перевести 500 000 электронных документов с румынского на английский, благодаря чему копы оперативно задержали местную ОПГ.
Полиция не верит ИИ
В реальности же с внедрением AI в работу полиции есть проблемы, и немало. В том же королевстве совсем недавно, как написал Wired, полицейские отказались от использования ИИ-моделей системы Think Family.
Систему запустили ещё в 2016 году для хранения данных, а затем к продуктам компании добавилась и нейронка, якобы способная прогнозировать преступления. При проведении проверки оказалось, что показатель точности системы — ниже 10%, так что это чудо тихо отключили и продолжили работать по старинке.
Были свои приколы и в американской полиции. В Юте местная полиция использовала софт для автоматической генерации отчётов, который в тексте документа… превратил полицейского в лягушку. На фоне играла песня из мультфильма, которую ИИ воспринял как часть релевантной информации. В штате Мэн копы пошли ещё дальше и задерживали несуществующих наркоторговцев, а фото своих "операций" генерили.
Проблемы, офицер?
Согласно базе AIAAIC, в которой хранится информация о сбоях в работе AI, на момент прошлого года задокументировано 358 инцидентов с ИИ в органах власти по всему миру. Больше половины этих ошибок связаны с точностью распознавания и анализом данных, что ведёт к неверным решениям "на земле" и, как следствие, утрате доверия к правоохранителям.
Вопросы этики
Развитие технологий сильно опережает юридическую базу, так что этические вопросы об использовании искусственного интеллекта в правосудии приходится решать "на ходу".
В Великобритании, где и разгорелся скандал, выводы ИИ пока что допустимо считать лишь "рекомендацией", а также запрещается использовать нейронку для работы со свидетелями и их показаниями — чем, собственно, и занимался наш "герой" из Дербишира. Если суд не найдёт в его действиях "ничего такого", мы получим прецедент с далеко идущими последствиями.
Ну а после робокопов, глядишь, и робосудьи подтянутся. Думайте.