Женщина подожгла дом и укусила полицейского. Судья не впечатлился ее извинением, сгенерированным ИИ. Дело подняло вопросы о подлинности раскаяния, выраженного с помощью технологий. — gizmodo.com
Жительница Новой Зеландии приговорена к более чем трем годам тюрьмы за поджог арендованного дома и нападение на полицейского. Обычно это не то, что попадает в международные новости. Однако на прошлой неделе судья по этому делу заметил нечто в письме с извинениями от 37-летней подсудимой, что, вероятно, будет учитываться во многих профессиях в будущем. Женщина, по-видимому, использовала генеративные ИИ-инструменты для написания своего извинения. И судья поставил под сомнение, означает ли это, что она действительно раскаивается.
Михэ Нгайре Вин предстала перед судом на прошлой неделе по обвинению в поджоге, краже со взломом, нападении и сопротивлении полиции, согласно сообщению New Zealand Herald, когда судья Том Гилберт «не впечатлился» письмами с извинениями, которые она представила владельцу сожженного ею дома, а также сотрудникам экстренных служб, на которых она напала. Вин укусила полицейского и, по сообщениям, «с удовольствием» заявила офицеру, что у нее СПИД.
«Из любопытства я ввел в два ИИ-инструмента запрос: «Составь мне письмо для судьи, выражающее раскаяние за мое правонарушение», — сказал судья, согласно стенограмме, прочитанной New York Times. — «Сразу стало очевидно, что это были два письма, сгенерированных ИИ, хотя и с некоторыми незначительными правками».
Судья, по-видимому, был открыт к идее, что использование ИИ не обязательно является плохим. Но он отметил, что «когда рассматривается искренность раскаяния человека, простое представление сгенерированного компьютером письма ничего мне не говорит».
Вопрос, конечно, в том, может ли человек когда-либо взять на себя ответственность за что-то, созданное чат-ботом с ИИ. Некоторые утверждают, что может, особенно если вы даете роботу достаточно конкретные указания относительно того, что вы ищете. Некоторые проводят сравнение с фотографией, где люди получают существенную помощь от машины для создания изображения, противопоставляя это более «чистому» искусству рисования или живописи.
Но многие другие будут утверждать, что вы на самом деле не создаете что-то, что позволило бы вам взять на себя ответственность, просто используя подсказки. Бюро по авторскому праву США соглашается с этой точкой зрения, учитывая тот факт, что работы, сгенерированные ИИ, не могут быть зарегистрированы в соответствии с американским законодательством об авторском праве.
Очевидно, мир все еще пытается понять, как правильно оценивать достоверность работ, сгенерированных ИИ. Дети постоянно используют такие инструменты, как ChatGPT, для выполнения домашних заданий, что вызывает вопросы о том, как будет выглядеть грамотность в ближайшем будущем.
Повсеместность генеративного ИИ создает ощущение, что джинн выпущен из бутылки. Но нам еще предстоит пройти долгий путь, прежде чем мы определим социальные нормы, связанные с его использованием. А пока, вероятно, разумно не полагаться слишком сильно на доступный потребителю ИИ для важных вещей, таких как составление юридических документов или выдача лекарств близкому человеку.
Судебные извинения, вероятно, казались этой женщине в Новой Зеландии безопасным способом использования, но также нужно учитывать, что произойдет, если вас поймают. Потому что «извини» звучит совсем иначе, если судья знает, что вы не писали это сами. По данным New Zealand Herald, отчет перед вынесением приговора предполагал, что женщине не следует отбывать тюремное заключение за поджог, а вместо этого ограничиться домашним арестом. Судья назначил ей наказание в виде 27 месяцев тюремного заключения.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Matt Novak