В Яндекс Такси, судя по обсуждениям, нашли встроенный детектор ксенофобных отмен.
Логика такая: если пользователь заказывает такси, видит водителя и сразу отменяет поездку, система может проверить, не повторяется ли такой паттерн слишком часто.
Дальше пассажира якобы относят к одному из уровней:
- обычный пользователь
- пользователь с частыми отменами
- пользователь с подозрением на дискриминационные отмены
Показываю как профессионально работать с Claude и другими ИИ у себя в телеге! И зеркало Max, если тг не работает(
Если алгоритм решает, что человек системно отменяет поездки из-за происхождения водителя, ему могут поставить внутреннюю пометку о неблагонадёжности.
Проблема в том, что сама идея очень скользкая.
Отмена поездки может быть из-за чего угодно:
- долгое ожидание
- плохой рейтинг
- неудобная машина
- цена
- ошибка в адресе
- личные причины
- случайный тап
Если загнать всё это в три грубых статуса, получится не антидискриминационная система, а каша из шумных данных.
Как минимум такой алгоритм должен смотреть не на одну отмену, а на длинный паттерн поведения, учитывать контекст, рейтинг, время ожидания, историю поездок и давать человеку понятный способ оспорить пометку.
Иначе система, которая должна бороться с предвзятостью, сама начнёт плодить странные и непрозрачные ярлыки.
Как бы вы улучшили такой алгоритм?
https://dzen.ru/id/5e048b1b2b616900b081f1d9 - мой телеграм больше экспертизы и топовых разборов ИИ инструментов
