Софтверная компания Palantir Technologies, главный поставщик решений для анализа данных американским спецслужбам и банкам, скрытно тестировала на жителях Нового Орлеана новую технологию предсказания преступлений. Об испытаниях ничего не знало ни население города, ни даже члены городского совета.
Palantir, основанная в 2003 году группой инвесторов во главе с Питером Тилем, — это частная компания, о деятельности которой известно немногое. Считается, что фирма тесно связана с разведкой США, правительственными агентствами, включая ФБР и АНБ, а финансируется она за счет специализированного некоммерческого фонда ЦРУ. Разработанные в Palantir аналитические инструменты, в частности, применялись для поддержки военных операций США в Афганистане, помогли раскрыть крупные китайские разведывательные операции Ghostnet и Shadow Network, а также разоблачить финансовую пирамиду Бернарда Мейдоффа.
В 2012 году Palantir заключила партнерство с полицейским департаментом Нового Орлеана (NOLA) — города, занимавшего тогда 6-ю строчку в США по уровню смертности в результате убийств. Согласно расследованию The Verge, компания передала властям систему, которая на основе ряда факторов могла предсказать, кто совершит преступление или станет его жертвой. Секретная программа, связывая между собой разрозненные базы данных, анализировала контакты людей с членами местных ОПГ, социальные медиа, истории правонарушений и выстраивала сложные модели взаимосвязей.
Прогностическая система была передана NOLA в качестве подарка. Так, "благодаря своему филантропическому статусу, а также модели правления 'сильного мэра' в Новом Орлеане, соглашение никогда не проходило через публичную процедуру государственных закупок". По данным издания, заключенное в 2012 году соглашение между Palantir и NOLA продлевалось трижды. Срок последнего контракта истек 21 февраля, и был ли он заключен снова, неизвестно.
По словам президента городского совета и бывшего адвоката защиты Джейсона Уильямса, никто из совета не знал о развертывании системы предсказания преступлений. Жителей Нового Орлеана также держали в неведении.
Власти города признали, что программное обеспечение было пожертвовано городу, при этом подчеркнув, что соглашение с Palantir прошло через все надлежащие юридические процедуры. Изложенные в статье The Verge факты представители Нового Орлеана назвали "неточными", а все расследование — "несостоятельным".
Новый Орлеан — не первый город, в котором испытывали систему предсказания преступлений. В прошлом году компьютерную систему оценки вероятности повторного нарушения порядка начали тестировать правоохранительные органы Дарема (города на северо-востоке Англии). Искусственный интеллект сам принимает решения о том, каких подозреваемых следует оставить под стражей, а каких — отпустить.
Прогностическая система ИИ, названная Hart (Harm Assessment Risk Tool, или "Инструмент оценки риска причинения вреда"), классифицирует преступников по степени риска и прогнозирует вероятность совершения преступления в будущем — почти как провидцы из фантастического блокбастера "Особое мнение" с Томом Крузом в главной роли. Тем не менее, все вынесенные ИИ "вердикты" носят исключительно рекомендательный характер.