По чуть-чуть продолжает вскрываться проблема интеграции и использования ИИ в государственных институтах, в том числе и судах. Очередной прецедент, который показывает, что ИИ — ещё недоросль, произошёл в США (кто бы мог подумать).
Случилось примерно следующее: есть компания CorMedix — она, по словам инвесторов, ввела в заблуждение относительно перспектив одобрения одного из своих продуктов регуляторами, из-за чего те понесли значительные убытки. У инвесторов был шанс выиграть дело, так как судья отозвал ходатайство о прекращении иска.
Но теперь выяснилось, что в решении судьи содержались сфальсифицированные цитаты и неправильные ссылки на судебные прецеденты — в частности, три дела были изложены с ошибками, и были приведены фразы, якобы процитированные из других судебных решений, которых на самом деле не существует. А это является характерной ошибкой галлюцинаций ИИ.
Официального подтверждения того, что судья использовал ИИ, — нет, но его ошибки очень похожи на аналогичные, уже совершённые ранее другими людьми.
Забавно получается, пока это касается преступлений, связанных с финансами. Но вот когда ИИ приговорит кого-нибудь к казни — будет уже не до смеха.
