Неправильное использование чат-бота с искусственным интеллектом вызвало юридический казус
Американский адвокат признался в использовании чат-бота с искусственным интеллектом ChatGPT для фабрикации судебных дел в громком судебном процессе против колумбийской авиакомпании Avianca. Окружной судья США Кевин Кастел установил, что шесть из представленных в суде прецедентов были вымышленными, и назначил слушания для рассмотрения вопроса о санкциях в отношении адвокатов истца.
Стивен А. Шварц, ответственный адвокат, признался, что использовал языковую модель OpenAI, ChatGPT, для создания исков. Пытаясь проверить результаты работы чат-бота, он просто спросил его, не лжет ли он. ChatGPT, в свою очередь, подтвердил, что сгенерированные им случаи реальны, несмотря на их несуществование.
Одним из таких дел было «Varghese v. China Southern Airlines Co., Ltd.», которое не существовало ни в одном юридическом документе. ChatGPT также ссылался на реально существующее дело «Зичерман против Korean Air Lines Co., Ltd.», но в нем была неверно указана дата и другие ключевые детали.
«Я не знал, что чат-бот может лгать», – сказал Шварц в суде. Он выразил глубокое сожаление по поводу использования генеративного искусственного интеллекта вместо традиционного юридического исследования.
Этот инцидент бросил тень на использование ИИ в юридических контекстах. ChatGPT ранее уже был вовлечен в другой ошибочный иск, где он ложно указал профессора права Джонатана Терли в качестве адвоката, обвиняемого в сексуальных домогательствах.
Эксперты по ИИ многократно предупреждали, что, хотя языковые модели ИИ, такие как ChatGPT, могут генерировать ответы на основе широкого спектра данных, они не являются непогрешимыми. Ответы моделей могут отражать предвзятость и неточности данных, на которых они были обучены, и у них нет возможности проверить правдивость своих результатов. В общем, адвоката сгубили скорее лень и некомпетентность, чем ИИ.
Что такое ChatGPT: