В пятницу юридический факультет Университета Северной Каролины провел необычный учебный судебный процесс. По словам организаторов, акция под названием «Суд над Генри Юстусом» призвана привлечь внимание к роли искусственного интеллекта в системе правосудия, пишет Futurism.
Над происходящим еще более властно, чем председательствующий судья, возвышались три высоких цифровых экрана. На каждом из них был представлен свой чат-бот с искусственным интеллектом: ChatGPT от OpenAI, Grok от xAI и Claude от Anthropic. Какова роль этих ИИ? Они выступают в роли «присяжных», которые будут решать судьбу человека, обвиняемого в грабеже несовершеннолетних.
К счастью, дело было вымышленным. Но все три чат-бота с искусственным интеллектом, входящие в состав «жюри», использовались профессиональными юристами в реальных судебных процессах, что часто приводило к досадным ошибкам. Это означает, что в некоторой степени технология уже влияет на исход судебных разбирательств по всей стране.
Внедрение ИИ в юридическую сферу по-прежнему вызывает споры, поскольку многие юристы, использующие такие инструменты подвергаются критике за ошибки, допущенные при работе с этой технологией. Как правило, ИИ ошибается, цитируя неверно процитированные или сфабрикованные судебные прецеденты, что является проявлением фундаментальной проблемы технологии – «галлюцинаций» в виде дезинформации, которую она выдает за факты.
К слову, ранее писали о том, что у моделей ИИ тоже может происходить «интеллектуальный сбой».