Судья федерального суда в Техасе вынес решение, запрещающее юристам, представляющим своих клиентов в его суде, подавать документы, содержащие материалы, полученные с помощью генеративного искусственного интеллекта (ГИИ), если они не были проверены на достоверность человеком.
Это решение было вызвано недавним скандалом в Нью-Йорке, где адвокат Стивен А. Шварц признался, что использовал ГИИ ChatGPT для подготовки иска и ссылался на шесть вымышленных дел, которые ему предложила система. Он утверждал, что не знал, что такие системы иногда выдают полную чушь, и извинился перед судом.
“Я очень сожалею о том, что использовал генеративный искусственный интеллект для дополнения юридического исследования, проведенного здесь, и никогда больше не буду делать этого в будущем без абсолютной проверки его подлинности”, - заявил Шварц в аффидевите на прошлой неделе.
Судья Брантли Старр из окружного суда Северного округа Техаса пошел еще дальше и запретил всем адвокатам, появляющимся перед его судом, подавать документы, включающие что-либо, полученное от ГИИ, если это не было проверено на точность “с использованием печатных изданий или традиционных юридических баз данных человеком”.
“Эти платформы невероятно мощны и имеют много применений в праве: формы разводов, запросы на разглашение информации, предполагаемые ошибки в документах, ожидаемые вопросы на устном слушании. Но юридическое обоснование не относится к ним”, - говорится в решении Старра.
“Вот почему. Эти платформы в своих текущих состояниях склонны к галлюцинациям и предвзятости”.
Галлюцинации были ярко продемонстрированы Шварцем в этом месяце. Что касается предвзятости, Старр объяснил:
“В то время как адвокаты клянутся отказаться от своих личных предрассудков, смещений и убеждений, чтобы верно соблюдать закон и представлять своих клиентов, генеративный искусственный интеллект является продуктом программирования, разработанного людьми, которые не должны были давать такую клятву”.
