Алгоритмы участвуют в кредитовании, найме, медтехе, саппорте, кодинге. Ошибки ведут к вреду, убыткам, санкциям. Нужна аллокация ответственности по цепочке ИИ.
Право.
• Договорная: SLA, гарантии, лимиты, carve-out для умысла, утечек ПДн и нарушений ИС.
• Деликт: стандарт должной осмотрительности, причинная связь, предсказуемость вреда.
• Продуктовая: дефектность как небезопасность при ожидаемом использовании; спорно для софта, но тренд на расширение.
• Комплаенс: антидискриминация, прозрачность решений, уведомления потребителей, логи ИИ.
• Данные и ИС: законность обучения, лицензии, исключения, ответственность за заимствование контента.
Риски. Галлюцинации, смещения, несанкционированный доступ, vendor lock-in, дрейф качества, вредные авто действия.
Практика.
• Матрица ответственности: данные, подсказки, мониторинг, обновления, безопасность.
• Доказательства: логи промптов, версии, параметры, тест-кейсы, аудит.
• Контроль: guardrails, фильтры, RAG, human-in-the-loop для критичных решений.
• Страхование, баг-баунти, красные команды.
Рекомендации. Определите «инцидент ИИ» и уровни; закрепите права на данные и модели; требования explainability; процедура расследований; наблюдаемость и A/B-тесты; ограничение автодействий до подтверждения человеком в чувствительных доменах.
