Суд оштрафовал компанию за «фантазии» ИИ в судебной жалобе.
Арбитражный суд Западно-Сибирского округа вынес очень показательное решение: компанию оштрафовали на 50 тысяч рублей за ссылки на несуществующую судебную практику.
В жалобе были красиво расписаны позиции Верховного суда, ВАС РФ и окружных судов, приведены «цитаты», номера дел и правовые выводы. Проблема оказалась в одном - часть этих решений никогда не существовала.
Суд прямо назвал это:
- фабрикацией источников,
- введением суда в заблуждение,
- злоупотреблением процессуальными правами,
- и неуважением к правосудию.
Суд отдельно подчеркнул: использование ИИ не освобождает от ответственности за содержание документа. Подписал и подал в суд - отвечаешь за каждую строчку.
По сути, мы получили первый громкий российский кейс, где суд прямо указал на риски слепого использования нейросетей в юридических документах.
ИИ сегодня напоминает очень уверенного стажера:
- говорит красиво,
- пишет убедительно,
- цитирует «авторитеты»,
но иногда… выдумывает их полностью.
И если в Telegram-посте это максимум повод для мемов, то в суде, тендере, финансовой отчетности или служебной записке это уже может стоить денег, контрактов и репутации.
Многие до сих пор воспринимают ответы нейросетей как «поиск в интернете». Хотя это не поисковик. Нейросеть не обязана говорить правду - она генерирует правдоподобный текст. Разница огромная. Это примерно как нанять актера, который великолепно играет эксперта. Пока не начинаешь проверять факты.
Именно поэтому я постоянно говорю:
ИИ - это усилитель специалиста, а не замена головы. Хороший юрист с ИИ станет быстрее. Плохой юрист с ИИ станет быстрее ошибаться.
Похоже, эпоха бездумного Ctrl+C из нейросетей начинает заканчиваться.
Шурыгин.IT - про технологии без иллюзий
