В выпуске нашего подкаста «Смени Пароль» мы пошутили на тему адвокатов «из Алабамы», которые бездумно пользуются ИИ, которые их подставляют

В выпуске нашего подкаста «Смени Пароль» мы пошутили на тему адвокатов «из Алабамы», которые бездумно пользуются ИИ, которые их подставляют галлюцинациями.

Должен принести свои извинения алабамским адвокатам – у них там все еще более-менее!

Нашел свежее исследование по юридическим ошибкам, составленное на основе базы AI Hallucination Cases, содержащей 1667 задокументированный кейс.

Новости там такие:

Число судебных документов с ИИ-галлюцинациями в США выросло с 25 случаев в I квартале 2025 года до 249 в IV квартале. А уже за первый квартал 2026 года суды почти догнали показатель всего предыдущего года.

Из всех зарегистрированных случаев:

1492 (80%) связаны с ложными ссылками на судебную практику;

682 — с искажением смысла реальных судебных решений;

446 — с выдуманными цитатами;

встречаются также ссылки на отмененные законы и несуществующие нормативные акты.

Лидеры по числу случаев: Калифорния (97), затем Нью-Йорк, Техас, Флорида и Иллинойс (тут явно корреляция с численностью населения штатов).

В штатах Вашингтон, Пенсильвания, Нью-Джерси, Невада, Индиана, Орегон, Оклахома, Миннесота, Миссисипи и Иллинойс подобные случаи начали фиксироваться, ранее их практически не было.

Алабамы в статистике все еще нет, наверное ИИ там еще не включили.

60% случаев приходится на людей, представляющих себя в суде самостоятельно (pro se), но в базе фигурируют 652 случая, где ошиблись профессиональные адвокаты, и 23 случая, когда использование ИИ с галлюцинациями было связано уже с самими судьями.

Только за первый квартал 2026 года американские суды назначили не менее $145 тысяч за использование ИИ с вымышленными ссылками. В эту сумму вошел рекордный для Орегона случай и крупнейший на сегодняшний день штраф федерального апелляционного суда — $30 тысяч. Два адвоката были оштрафованы за более чем два десятка вымышленных судебных прецедентов.

$10 000 — штраф адвокату в Калифорнии за апелляцию, содержавшую 21 фиктивную ссылку на судебную практику.

Общий объем штрафов, наложенных судами США за ИИ-галлюцинации, уже превысил $720 тысяч.

Юриспруденция — одна из первых профессий, где это стало массово измеримо. Судебные решения публичны, ошибки фиксируются, поэтому мы видим статистику.

Тот же процесс происходит в аналитике, журналистике, консалтинге, программировании и даже в кибербезопасности — просто там последствия пока не оказываются на первых полосах.

@gostev_future