4036 подписчиков
Суд в американском Миссисипи устроил показательную порку адвокатам, которые слишком сильно поверили в искусственный интеллект.
В центре истории оказался спор между юристом Томом Уизерсом и властями города Абердин. Но настоящей звездой процесса неожиданно стал не предмет разбирательства, а ChatGPT-подобные инструменты.
Выяснилось, что адвокаты обеих сторон активно использовали ИИ для подготовки судебных документов. Всё бы ничего, но нейросети начали придумывать судебные прецеденты, которых никогда не существовало. А юристы даже не удосужились проверить ссылки перед отправкой бумаг в суд.
В итоге получилась почти комедийная ситуация: одна нейросеть генерировала аргументы для истца, другая — для ответчика, а обе ссылались на вымышленные судебные дела.
Судье Шэрион Эйкок такой эксперимент не понравился. В своём постановлении она прямо заявила, что суд снова вынужден разбираться с ИИ-галлюцинациями и что подобный подход превращает юристов в бездумных «операторов копипаста».
Последствия оказались болезненными. Суд отменил разбирательство, отстранил от дела всех четырёх адвокатов и выписал штрафы от 1000 до 3500 долларов. Двум юристам вдобавок запретили появляться в этом суде в течение двух лет.
Истории с выдуманными прецедентами, созданными нейросетями, в США уже перестают быть редкостью. Но этот случай вышел на новый уровень. Здесь фактически две ИИ-модели спорили друг с другом в федеральном суде, а адвокаты просто переносили их фантазии в официальные документы.
1 минута
11 июня