Не так давно в одном городе Румынии произошла неприятная ситуация, связанная с автомобилем Tesla: машина объехала человека, который упал на проезжую часть, но при этом выехала на встречную полосу и врезалась в другое авто. В результате пострадали два человека. К сожалению, это не первый случай ДТП с участием беспилотных автомобилей. У многих возникает вопрос: а кого винить в аварии, если за рулем авто никого не было?
Сложный вопрос
К сожалению, количество аварий с беспилотным транспортом растет. В одном городе машина сбила пешехода, который переходил дорогу в неположенном месте, в другом — собаку, были случаи, когда авто на автопилоте не уступало дорогу служебным машинам, которые имели преимущество на дороге.
Компьютер, встроенный в машину, не встает перед выбором, кого спасти, а кого покалечить. Частые аварии связаны с некорректно написанной программой, которая просто не учитывает вариации возможных событий.
Многие при обсуждении этих происшествий с авто вспоминают «проблему вагонетки», которую придумал философ Филиппа Фут. Она поставила вопрос: как поступить в ситуации, в которой обязательно будут жертвы? Например, вы управляете поездом, и перед вами развилка: если поедете в одну сторону, то убьете группу рабочих, в другую — вашего близкого человека.
Эта задача не имеет решения и опирается лишь на эмоции людей.
Исследователи решили понять, как защитить пешеходов или автомобилистов, если перед автопилотируемым авто встает «проблема вагонетки». Группа по этике составила и запрограммировала около двух тысяч возможных ситуаций на дороге, что поможет машине принять «правильное решение». Они заключили в алгоритм следующее: если авария неизбежна, то удар должен быть нанесен тем, кто более защищен.
ДТП, которое произошло в Румынии, показывает, как работает данный алгоритм этики. Очевидно, что пешеход менее защищен, нежели люди, которые ехали в авто, поэтому Tesla и приняла решение выехать на встречную полосу.
Кто будет виновником такого ДТП?
В 2026 году в Великобритании хотят сделать автопилотируемые авто активными участниками дорожного движения, и уже разработаны законодательные нормы, согласно которым виновными в ДТП будут считаться разработчики ПО машины, а водитель, который может находиться в машине, не будет виновен. Такая же логика придерживаются власти Франции, Германии и Японии.
Но нет единого понимания того, кто действительно будет виновен в аварии. Кто-то предлагает не снимать ответственность с водителя, другие считают, что нужно судить разработчиков датчиков и камер, встроенных в авто. Российские же власти считают, что виноваты не только разработчики программного обеспечения и автовладельцы, но и специалисты по безопасности производителя машины.
Но то, в чем уверены производители авто и власти стран — каждую аварию нужно разбирать индивидуально, нельзя заранее определить одного виновника ДТП. Окончательное решение по каждой аварии будут принимать страховые компании.
Хакерские атаки на ПО авто
Власти законодательно наказывают хакерские атаки, вследствие которых был нанесен вред имуществу и дорожному движению, но мало кто задумывается об утечке данных, похищении людей, заблокированных в авто и многих других опасных преступлениях. Разработчики уже ищут «слепые пятна» в программе, чтобы была возможность защитить ПО машин.
Например, программисты Regulus Cyber взломали GPS-навигатор Tesla и отправили данные о передвижениях водителя в другой город, а специалисты из Университета Мичигана провели эксперимент, в котором взламывали бортовые компьютеры и «заставляли» машины совершать опасные для дорожного движения действия. Не так давно айтишник, имя которого остается неизвестным, нашел ошибку в работе Tesla: машина в авторежиме Executive Mode, как выяснилось, может ехать без ограничения скорости и запаса хода. Позже специалисты из Германии подтвердили эту функцию.
Но больше всего автомобилистов беспокоит то, что Tesla снимает все, что происходит в машине и около нее. Компания говорит, что это поможет защитить водителя от мародеров и злоумышленников, но проблема в том, что записи с камер передаются в компанию-производителю этих машин. Хотя Tesla это опровергают, многие не верят их словам.
Чтобы справиться с хакерскими атаками, специалисты задаются вопросом: лучше, чтобы в авто была автономная система ПО, или стоит подключить все машины к общему облаку, где будут храниться базы данных? В первом случае обслуживание программного обеспечения будет сложнее и дороже, зато во время взлома пострадает лишь одна конкретная машина. При общей системе специалисты будут быстрее находить и убирать баги и вирусы, но если злоумышленники захотят взломать систему, то пострадают все авто с автопилотом.
Пока неизвестно, к какому решению придут производители автомобилей.
Люди до сих пор обсуждают многие этические вопросы: как быть, если авто задавило животное, какой урон экологии наносят электрические машины… Но производители этих авто не всегда глубоко задумываются о негативных сторонах своих продуктов, тем более что, согласно статистике, после увеличения количества электрокаров количество ДТП сократилось, и ездить стало намного безопаснее.
ПОДПИСЫВАЙТЕСЬ на наш YouTube канал!
Ставьте ПАЛЕЦ ВВЕРХ и ПОДПИСЫВАЙТЕСЬ на Дзен канал
Читайте также: