Юридический sci-fi триллер с политическим подтекстом “Искусственное правосудие” режиссёра Симона Касаля (Simón Casal) рассуждает о роли искусственного интеллекта в системе правосудия. Но, как мне показалось, сценарий не пытается дать простора для рассуждений о том, как полезен ИИ, он вполне конкретно даёт понять, что человек первичен. Это он управляет ‘роботом’, а не наоборот. Внедрение искусственного интеллекта – это прикрытие целого заговора, целью которого является установление тотального контроля, касающегося не только правосудия, а и всей страны.
“Искусственное правосудие” – это второй полнометражный художественный фильм Симона Касаля, официальная премьера которого состоялась 13 сентября в Испании. Начинал он в аудиовизуальной индустрии, потом работал фотографом в рекламных проектах и участвовал в фотоконкурсах (ElPais, Fnac, Xunta de Galicia). В начале 2010-х Касаль переключается на кинематограф, он начинает писать сценарии и снимать короткометражные фильмы. Первый полнометражный фильм вышел в октябре 2015 года – триллер “Грязные волки” (Lobos sucios).
Сюжет
Действие фильма развивается в недалёком будущем. В испанских судах при вынесении приговора используется программное обеспечение, формирующее вердикт. Но пока финальное решение остаётся за судьёй.
После грядущего референдума по утверждению системы искусственного интеллекта в отправлении правосудия приговоры от ИИ перестанут носить рекомендательный характер. Внедрение ИИ в систему правосудия в идеале должно автоматизировать работу, помочь ускорить принятие решений, позволить разбирать дела втрое быстрее, чем человек, также деполитизировать правосудие. Как утверждают разработчики ПО, при этом ИИ не заменит человека, он будет ему помогать.
Создательница программного обеспечения THENTE Алисия Ковак против презентации своего продукта, считая его слишком сырым, требующим серьёзных доработок, потому просит изменить дату референдума, хотя председатель и операционный директор компании, где она работает, настаивают на запуске. Она обратилась за помощью к судье Кармен Коста, чтобы та провела аудит и протестировала ПО. Алисия очень доверяет Кармен, потому возлагает именно на неё финальное решение по поводу внедрения THENTE. Пожелание Алисии имеет юридическую силу, она оформила его документально.
Незадолго до референдума Алисия погибает в ДТП. Это очень странно, потому что аварии для автомобилей с автономным управлением вещь очень редкая.
Мои мысли и впечатления после просмотра
Искусственный интеллект становится всё популярнее. От развлечения, заключающегося в рисовании картинок, он переходит в статус равноценного сотрудника.
Или вот в Нью-Йорке состоялась премьера спектакля McNeal, главный герой которого, писатель Джейкоб МакНил в исполнении Роберта Дауни-мл, обожает Уильяма Шекспира и имеет нездоровое увлечение искусственным интеллектом. Наряду с настоящим актёром Робертом Дауни-мл на сцене появляется очень реалистичное цифровое подобие человека. А автор пьесы, по которой поставлен спектакль, во время работы над ней экспериментировал с различными языковыми моделями (типа ChatGPT).
Но это искусство, и это вроде как безобидно, когда творческий человек прибегает к помощи искусственного интеллекта (в разумной дозе) при работе над новым текстом, а также вносит в качестве характеристики для своего главного героя любовь к новейшей технологии.
Намного страшнее и вызывает больше напряжения, когда искусственный интеллект приближается к правосудию. Фильм словно спрашивает: хотели бы вы, чтобы в суде решение принимал искусственный интеллект? Или всё же пусть последнее слово останется за человеком? Но, если за вердикты возьмётся ИИ, то как же с ответственностью? Выходит, такое понятие станет для человека лишним?
Хотя в названии триллера “Искусственное правосудие” подразумевается применение ИИ в правовой системе, но по большей части это игра слов, намекающая на то, что, по сути, людям пускают пыль в глаза – что это улучшение работы и деполитизация. За сложными алгоритмами и множеством непонятных слов скрывается банальная жажда тотальной власти отдельно взятых личностей.
Получение контроля над системой правосудия – это обеспечение себе безнаказанного совершения преступлений любого плана. То есть “приручение” правосудия – это новый уровень контроля и безнаказанности. Если в триллере “Подай знак” происходит подавление сознания отдельной жертвы, чтобы она не смогла заявить в полицию на обидчика, и это можно назвать обходным путём, чтобы обезопасить себя от системы правосудия, то внедрение ПО в систему правосудия с алгоритмами, просчитывающими факторы вины, это “ослепление” самого правосудия.
В этом триллере, помимо споров о том, что THENTE не готово и его всё равно надо внедрять, идёт детективное расследование – почему автор THENTE Алисия Ковак погибла незадолго до референдума. Судья Кармен Коста берётся за выяснение этого вопроса, выясняя, что рты закрываются и любой человек имеет свою цену, когда речь идёт о получении власти.
Образ судьи Кармен Коста является намёком на то, что человек первичен. Она озвучивает такие вещи, с которыми сложно спорить. В сценарии для Кармен прописана линия материнства – она старается забеременеть. Но, поскольку искусственный интеллект даёт свои рекомендации не только в суде, но и в медицине, врач сообщает Кармен, что ей стоит отказаться от попыток, эмбрион не приживается. Он делает этот вывод, опираясь на вердикт ИИ. Позже она принимает своё решение, что будет пытаться, заявляя, что ПО за неё ничего решать не может.
Более того, в открывающем эпизоде Кармен показывает своё отношение к ИИ – она не приняла во внимание рекомендацию системы при вынесении вердикта по делу хакера Хесуса Альмейды. ПО признало его виновным, а она – нет. У Кармен Коста есть мнение, что решения искусственно-интеллектуального ПО основываются на устаревших данных, они не способны оценивать контекст, чтобы делать выводы точно; оно не способно эволюционировать и создавать новую судебную практику. Проблема в том, что такое ПО будет постоянно ориентироваться на прошлое и повторять его. По сути, образ Кармен Коста, расследующей гибель Алисии, автора THENTE, и склоняющаяся на сторону отрицателей ИИ, это в некотором роде воплощение противостояния людей и технологий.
Самый острый момент возникает, когда открывается, что некоторые из ключевых людей, стоящих за разработкой программного обеспечения, возможно, получают особые преференции, отрицающие обещанное объективное принятие решений. И это даёт понимание, что “искусственное правосудие” действительно сомнительная вещь, и, хотя технология может быть более точной, но чаще она менее справедливая с человеческой точки зрения.
***
Новость об этом фильме: