8 подписчиков
«Чёрный ящик» вместо чиновника: вам отказал робот, а человек только разводит руками?
Когда я был главой муниципального округа Тверской в Москве, ко мне постоянно приходили люди, которых система футболила. С ними общался портал mos.ru, а не живые чиновники. Пожаловаться было некуда: «такое решение алгоритма». Я видел это в глазах — обиду, беспомощность, злость.
Сейчас ИИ уже решает, давать пособие или нет. Это быстро и дёшево. Но что делать, когда алгоритм ошибается? В Петербурге мать пятерых детей получила 15 отказов подряд — ИИ перестал распознавать её родственную связь с ребёнком после обновления. Чиновники развели руками. Знакомая ситуация, правда?
1️⃣Автоматизированные решения должны быть запрещены. ИИ — ассистент, а не судья. Окончательный вердикт всегда за человеком.
2⃣Гражданин имеет право знать «почему». Алгоритм обязан объяснить причину отказа. Без этого — «чёрный ящик» и некому предъявить претензию.
3️⃣Алгоритмы нужно проверять на дискриминацию. ИИ учится на предвзятых данных. В Европе уже были скандалы, когда система обвиняла мигрантов, женщин и бедных.
4️⃣Данные — под особую защиту. Только с начала 2025 года в России — 35 крупных утечек, 39 млн пользователей. Хранилища с «подноготной» о каждом — это не метафора, а угроза.
Технологии должны помогать, а не заменять совесть и закон. Пока чиновник прячется за робота, гражданин остаётся один на один с ошибкой.
👉 Куда жаловаться, если отказал алгоритм, и как не попасть в «цифровую яму» — в статье runews24.ru/...ami
1 минута
13 апреля