🇪🇺 Человеческий надзор в ИИ: отчет EDPS о рисках и ограничениях

🇪🇺 Человеческий надзор в ИИ: отчет EDPS о рисках и ограничениях

Европейский надзорный орган по защите данных (EDPS) опубликовал отчет о роли человеческого надзора в системах автоматизированного принятия решений.

Документ критически оценивает распространённое убеждение, что простое включение человека в процесс гарантирует справедливость и безопасность алгоритмов.

Отчет признает, что человеческое вмешательство часто рассматривается как необходимая защита от предвзятости, ошибок классификации и непрозрачности систем ИИ. Однако EDPS предупреждает, что эффективность такого надзора часто переоценивается.

Ошибочное предположение о всесилии человека может привести к слабому или формальному надзору, который не устраняет существующие риски. Человек, доверяя алгоритму, может просто автоматически одобрять его решения (так называемая «автоматизация предвзятости»).

Для того чтобы надзор был значимым, он должен быть тщательно спроектирован с учетом сложности взаимодействия человека и алгоритма.

EDPS также подчеркивает, что ответственность за этические и безопасные результаты должна оставаться за разработчиками и внедряющими организациями, а не перекладываться на оператора, осуществляющего надзор, и призывает к созданию структурированных подходов, которые строго увязывают практику надзора с этическими стандартами, общественными ценностями и демократическими принципами.

В основном, отчет EDPS имеет критическое значение, поскольку он подчёркивает, что соблюдение законодательных требований (например, будущих положений Закона ЕС об ИИ), касающихся человеческого надзора, требует не просто присутствия человека, а его активного и компетентного участия.

Отчет Европейского надзорного органа по защите данных (EDPS) нахожу в целом верным, поскольку он смещает акцент с формального присутствия человека на значимое вмешательство.

Распространённая вера в то, что «человек в контуре» автоматически гарантирует справедливость, является опасной иллюзией безопасности. Это ведёт к перекладыванию этической и правовой ответственности с разработчика алгоритма на оператора-человека, который часто не имеет ни достаточного времени, ни компетенции, чтобы оспорить сложное автоматизированное решение.

Поэтому, с моей точки зрения, единственный путь к справедливому и безопасному ИИ — это требование активно спроектированного надзора, где человек является не просто «галочкой» для соблюдения закона, а целевым контрольным механизмом, способным идентифицировать и корректировать системные ошибки и предвзятости, присущие алгоритму.

Ответственность же за этические рамки и архитектуру системы должна безусловно лежать на компаниях, которые её создают и внедряют.