Несколько адвокатов, работающих над одним делом в Нью-Йорке, подали в суд сфальсифицированные документы со ссылками на дела, текст которых был полностью сгенерирован ChatGPT. С помощью чат-бота были придуманы тексты показаний и судебных заседаний, которые на самом деле никогда не проходили.
Все началось с того, как адвокаты попросили искусственный интеллект предоставить примеры прошлых дел. Они были предоставлены ChatGPT, адвокаты, не проверив информацию, прикрепили ее к делу.
Судья призвал адвокатов, которые защищали пострадавшего пассажира на рейсе Avianca в 2019 году, прокомментировать ситуацию. Он попросил их объяснить, почему были сфабрикованы постановления. Судья, внимательно изучив дело, пришел к выводу, что адвокаты отказались от своих обязанностей и перенесли их на чат-бот. Защита сразу заметила несостыковку и попросила судью разобраться в противоречии.
Из-за поддельных показаний получилось искажение поданной информации. Она не соответствует действительности, поэтому судья не мог принять ее к сведению. Каждого адвоката, который переложил свою работу на ИИ, приговорили к штрафу в 5 000 долларов. Также судья обязал уведомить об этом инциденте все судей, чье имя было указано в сфабрикованных документах.