Когда ИИ ошибается: 5 громких провалов искусственного интеллекта в праве
ИИ обещает революцию в юриспруденции, но его ошибки уже приводили к серьёзным последствиям. Разберём самые резонансные случаи:
1. Фальшивые судебные прецеденты
Адвокаты в США подавали в суд документы с вымышленными цитатами из ChatGPT и Google Bard. После скандалов суды обязали проверять все ИИ-документы.
2. Ложные аресты из-за ошибок распознавания лиц
В США Роберта Уильямса арестовали по ошибке алгоритма. В России учёного Александра Цветкова 10 месяцев держали в тюрьме из-за 55% совпадения с фотороботом убийцы.
3. Расистский визовый алгоритм
Британская система Streaming tool автоматически понижала приоритет заявок из Африки и Азии. Проект закрыли после обвинений в дискриминации.
4. Провал робота-адвоката
Стартап DoNotPay обещал, что его ИИ будет защищать в суде. Но система нарушала законы и давала опасные советы. Результат — штраф от регуляторов.
5. Дискриминация в соцпомощи
Нидерландская система SyRI помечала жителей бедных районов как мошенников без объяснений. Суд запретил её использование как угрозу равенству.
