Если вы ещё не забыли, то Илон Маск в далёком 2018 году обещал появление полноценного автопилота, который окажется способен вместо водителя взять управление транспортным средством на себя. Основатель Tesla постоянно переносил сроки, ну а в итоге в 2023 году появилась более продвинутая редакция автоматической системы пилотирования, которая способна в большинстве случаев заменить человека. Владельцы электрокаров рассказывают о том, как проехали несколько тысяч километров, при этом ни разу не притронулись к рулю, тогда как пресса постоянно публикует аварии с участием автопилота. Система всё ещё не вышла из состояния теста, при этом аналитики время от времени рассказывают о том, что совсем скоро ИИ научаться водить машину лучше, чем человек. Судя по всему, автолюбителям придётся ещё немного подождать, ведь наступление светлого будущего откладывается на неопределённый срок.
Совсем недавно на базе Королевского колледжа в Лондоне команда исследователей провела эксперимент, в задачи которого входило изучение нескольких наиболее популярных систем обнаружения пешеходов, использующих искусственный интеллект. Тестовый материал включал более 8000 разнообразных изображений, а итоги исследования неутешительные. Выяснилось, что программное обеспечение способно распознавать пешеходов намного лучше, если речь идёт о взрослых людях. А вот детей ИИ идентифицирует не лучшим образом, а в результате точность по этому показателю оказалась на 20% ниже. Что любопытно, ИИ на целых 7.5% лучше распознают пешеходов со светлой кожей, тогда как с идентификацией чернокожих имеются значительные трудности. Исследователи полагают, что основная сложность связана с явным недостатком контекстных данных и их низким разнообразием, доступным в рамках обучения искусственного интеллекта.
Проще говоря, изображений людей со светлой кожей намного больше, а значит и ИИ лучше приспособился распознавать именно такие объекты. Кроме того, существуют и объективные трудности, которые будут решены с помощью более качественных камер. Оказалось, что систематические ошибки возникают в условиях низкой контрастности – в сумерках и ночью. В это время суток системы чаще всего путаются в фиксации чернокожих, а значит таким людям намного опаснее переходить дорогу, когда за рулём находится не человек, а ИИ. Учёные отмечают, что сфера разработки алгоритмов для автопилотирования столкнулась с проблемой неравенства, о которой человечество знает не понаслышке. Исследователи напоминают, что в прошлом неоднократно умные алгоритмы допускали дискриминационные действия по половым и расовым признакам. Например, некоторых женщин ИИ упрямо называл мужчинами, а чернокожих и вовсе относил к приматам (обезьянам).
Учёные пишут о том, что производители автомобилей не спешат раскрывать деталей собственных программных решений для обнаружения пешеходов. Известно, что многие используют системы с открытым кодом, которые и были протестированы в данном исследовании. Со временем производители вносят коррективы, но без взаимодействия и выработки единых правил отрасль существовать не должна. Подобные алгоритмы имеют огромный потенциал, но на данном этапе несут больше опасностей, чем пользы, поэтому нуждаются в регламентировании со стороны государства. Довольно странно, когда продвинутый ИИ не видит чернокожего ребёнка в тёмное время суток, продолжая движение и подвергая опасности жизнь малыша.