Что делать с ситуациями, когда желающему получить пособие отказывает алгоритм?
Искусственный интеллект используют во многих сферах, чтобы автоматизировать ряд процессов. Однако ошибаются даже машины.
В беседе с RuNews24.ru эксперт по социально-экономической политике Яков Якубович отметил, что каким бы совершенным ни был анализ, окончательное решение должно оставаться за человеком. ИИ не должен подменять ответственность чиновника.
ИИ ошибается, и за такие промахи приходится страдать людям реальным. В Петербурге мать пятерых детей получила 15 отказов подряд от ИИ Социального фонда. После обновления ПО виртуальный помощник просто не распознавал её родственную связь с ребёнком.
Помимо ошибок, есть и риски. Эксперт подчёркивает, что искусственный интеллект обучается на исторических данных, которые могут содержать скрытую предвзятость. За первые три месяца 2026 года в России зафиксировано 35 крупных утечек, затронувших более 39 миллионов пользователей.
Что-то решать с промахами роботов надо. Яков Якубович отмечает, что автоматизированные решения должны быть запрещены: ИИ может готовить проекты решений и выявлять риски, но окончательный вердикт всегда выносит человек. По мнению эксперта, только так можно избежать ситуаций, где от ошибок бездушной машины страдают реальные люди.
Еще несколько решений, которые нужно ввести в норму – обязательный аудит на отсутствие дискриминации алгоритмов ИИ и защита хранилища данных пользователей.
Только так ИИ станет незаменимым помощником, а не машиной, за которой нужно подчищать ошибки.
Читайте также:
В «Северной долине» открылся десятый детский сад с бассейном
Выпускники магистратуры по дизайну среды начали карьеру в «Главстрой Санкт-Петербург»
От цеха к турмаршруту: терминал Port Favor ищет партнеров в «тревеле»
Подпишитесь на Telegram "МОЙКА78": больше эксклюзивов и оперативной информации!