37-летняя жительница Крайстчёрча Михаэ Нгаире Вин подожгла арендованный дом, укусила полицейского и попыталась разжалобить суд с помощью ChatGPT. Судья был умерен в оценках, но скидку на раскаяние урезал вдвое.
В июне 2024 года Вин устроила пожар в собственном съёмном жилье: она вытащила верёвку из камина, протянула её по полу к кучам одежды и подожгла. Четырёхкомнатный дом сгорел дотла — страховки не хватило, стоимость сноса составила 29 000 новозеландских долларов, не покрытых полисом, а восстановление обойдётся, по оценке судьи Тома Гилберта, более чем в полмиллиона. При этом на доме висела ипотека — то есть жертвы получили руины вместо актива.
Находясь под стражей после ареста, Вин укусила полицейскую за руку, а затем, по словам судьи, «с удовольствием» сообщила офицеру, что является ВИЧ-положительной.
Судья с ChatGPT против подсудимой с ChatGPT
На этапе вынесения приговора адвокат защиты Синди Ли представила суду два письма с извинениями — одно судье, другое потерпевшим — и заявила, что их написала сама Вин. Судья Том Гилберт обратил внимание на подозрительно гладкий стиль и решил проверить догадку по-научному: самостоятельно ввёл в два разных ИИ-инструмента запрос «напиши письмо судье с выражением раскаяния за совершённое преступление». Совпадение оказалось очевидным, хотя в письмах и были «незначительные правки».
«Совершенно ясно, что эти письма сгенерированы ИИ», — констатировал судья, добавив, что использование нейросети для написания извинений «подрывает саму суть раскаяния» и не имеет ценности при определении меры наказания.
Скидка есть, но не та
Гилберт подчеркнул, что не осуждает Вин за использование ИИ как такового:
«Это хороший инструмент, и не все умеют хорошо выражать мысли письменно».
Тем не менее прокурор Джейд Ланкастер отметила, что впервые сталкивается с ИИ-письмом о раскаянии в суде, и выразила опасения, что это может стать проблемой в будущем.
Итог: судья назначил стартовую точку приговора в три года и девять месяцев, применил скидки — 15% за признание вины, 20% за биографию и психическое здоровье, и лишь 5% за раскаяние (адвокат просила 10%). Вин получила 27 месяцев заключения и обязана выплатить 3 000 новозеландских долларов компенсации.
ИИ в зале суда: дурная традиция
Случай Вин вписывается в нарастающую волну курьёзов с ИИ в правовой системе. Ранее американские адвокаты получали выговоры за использование нейросетей, которые выдумывали несуществующие судебные прецеденты. В другом деле защитник, пойманный на использовании вводящего в заблуждение ИИ, подал дополнительное пояснение об этом инциденте — и тоже написал его с помощью ИИ. Судьи явно становятся внимательнее к стилистически безупречным, но душевно пустым текстам.