У юриста из Нью-Йорка возникли проблемы после того, как он представил юридическое исследование, созданное чат-ботом ChatGPT, сообщает ВВС.
Во время судебного иска против авиакомпании в связи с предполагаемыми телесными повреждениями адвокаты истца подготовили записку, со списком нескольких дел, которые должны были быть использованы в качестве примера судебных прецедентов. К сожалению, как позже было признано в показаниях под присягой, шесть дел были признаны судом «никогда не существовавшими».
«Исследование» было составлено Стивеном А. Шварцем, адвокатом с более чем 30-летним опытом работы. Шварц заявил в письме под присягой, что раньше не использовал ChatGPT для юридических исследований и «не знал о возможности того, что его содержание может быть ложным».
Скриншоты, которые были прикреплены к разбирательству, показывали, что адвокат спрашивал чат-бота: «Является ли Варгезе реальным делом». На что чат-бот ответил: «Да». А когда юрист задал ChatGPT вопрос об источниках, нейросеть ответила: «В базах данных юридических исследований, таких как Westlaw и LexisNexis». На вопрос «Являются ли другие случаи, которые вы предоставили, фальшивыми», чат-бот ответил: «Нет».
Какими бы продвинутыми ни казались чат-боты, они все же склонны к «галлюцинациям» — совершенно связно звучащим ответам, которые никоим образом не связаны с реальным миром.
Адвокат написал в объяснении, что он «очень сожалеет о том, что использовал генеративный искусственный интеллект для дополнительного правового исследования», и клянется «никогда не делать этого в будущем без абсолютной проверки его подлинности». Слушание этого дела о ChatGPT предстоит 8 июня.
Что умеет нейросеть и как с ней работать
Исследование: какие рабочие места пострадают от ИИ, а какие останутся в безопасности?
Названы профессии, которые уже не будут прежними после появления ChatGPT
Неуравновешенность, эгоизм и просто вранье? — Почему не стоит доверять чат-ботам