Разумный робот, который охотится на людей, что может быть кошмарнее? Поэтому каждый случай агрессии машин вызывает пристальное внимание: может быть, техноапокалипсис уже начался? И пришло время превентивно усыпить собственный смартфон, пока он не поработил владельца? Расскажем о самых ярких эпизодах столкновений роботов и людей, начиная с самого свежего случая.
ХОД СЛОНОМ ПО ПАЛЬЦАМ
Когда: Первый в истории случай нападения шахматного робота на человека произошел летом 2022 года в Москве на шахматном турнире Moscow Chess Open.
Действующие лица: Робот Chesska, участвует в соревнованиях уже 15 лет, в кровожадных намерениях прежде не был замечен. Его создатель, Константин Костенюк (отец чемпионки мира по шахматам Александры Костенюк). Мальчик Кристофер (7 лет), входит в топ-30 сильнейших шахматистов Москвы в возрасте до 10 лет.
Что произошло: Во время сеанса одновременной игры (Chesska может играть против трех соперников сразу) робот сделал ход - взял ферзя соперника и бросил его в специальный контейнер. Далее программа предписывала занять поле своей фигурой - слоном. Но тут в железную логику машины вмешался 7-летний Кристофер. Не дожидаясь, пока машина закончит цикл действий, он сделал упреждающий шаг: поставил на место убитого ферзя свою ладью, которая через ход должна была нанести ответный удар. В это время робот (а это не что иное, как компьютер с рукой-манипулятором общим весом 50 кг) ставил на ту же клетку своего слона и случайно прижал зажимом руку мальчика. На помощь пришли взрослые, но фаланга пальца оказалась сломана. На следующий день мальчик смог продолжить участие в турнире.
ПЕРВАЯ ЖЕРТВА АВТОНОМНОГО АВТОМОБИЛЯ
Когда: Первая в истории гибель человека в результате столкновения с самоуправляемым автомобилем произошла 18 марта 2018 года.
Действующие лица: Беспилотник Uber на базе внедорожника Volvo XC90, 50-летняя велосипедистка Элейн Херцберг, инженер-водитель Uber Рафаэла Васкес.
Что произошло: Элейн возвращалась из супермаркета уже затемно, будучи навеселе, позже выяснилось, что она находилась под воздействием марихуаны и метамфетаминов. Она толкала перед собой велосипед, на который повесила сумки с покупками. Чтобы сократить путь (до пешеходного перехода было 110 метров), женщина решила пересечь шоссе и шагнула навстречу внедорожнику Volvo.
Система компьютерного зрения заметила женщину за 6 секунд до столкновения и сначала классифицировала как неопознанный объект. Затем компьютер расценил помеху как транспортное средство и только в последний момент понял, что впереди велосипедист. Когда электроника решила, что необходимо срочно тормозить, до удара оставалось 1,3 секунды. Однако автоматическая система аварийного торможения была отключена, чтобы избежать ложного срабатывания (в программное обеспечение был заложен слишком высокий порог распознавания опасных объектов, и авто постоянно экстренно тормозило почем зря).
Ситуацию могла спасти инженер-водитель Рафаэла Васкес, но она в этот момент смотрела кино на смартфоне и за дорогой не следила. Ей было предъявлено обвинение в убийстве по неосторожности. Суд до сих пор (прошло 4 года) не вынес решения в связи со сложностью прецедента.
ПОДОЗРЕВАЕМЫЙ - РОБОТ-ХИРУРГ!
Когда: Первый пациент, виновником смерти которого называют робота-хирурга, ушел в иной мир 3 марта 2015 года.
Действующие лица: Хирургический робот Da Vinci, пациент Стив Петтит 69 лет, хирурги Сукумаран Наир и его помощник Таси Пиллэй.
Что произошло: Пациенту предстояла операция по поводу дефекта митрального клапана сердца. Хирург Сукумаран Наир предложил сделать эту операцию щадящими методами с помощью хирургического робота. Раньше таких операций роботы в Великобритании не делали. Впрочем, выяснилось, что и для доктора Наира это был дебют в таком амплуа.
Поначалу все шло настолько хорошо, что два медицинских эксперта, прилетевших на случай оказания технической помощи (если с роботом Da Vinci что-то пойдет не так), покинули операционную с разрешения доктора Наира. Однако затем что-то пошло не так. Хирург утверждал, что во всем виноват робот. Сначала он начал гудеть настолько громко, что доктор и ассистент вынуждены были кричать, чтобы услышать друг друга. Затем робот ударил по рукам медсестру, а хирургический шов оказался наложен неправильно, и шить пришлось заново.
В какой-то момент был поврежден кровеносный сосуд, кровь забрызгала камеры, и врачам пришлось заканчивать операцию методами обычной полостной хирургии. Спустя несколько дней после 6-часовой операции пациент умер. Однако следователи выяснили, что робот был ни при чем. Причиной трагедии стала неопытность Сукумарана Наира. Он не прошел полностью курс обучения по управлению системой Da Vinci и никогда не практиковался индивидуально. Весь его опыт - это только работа на симуляторе. Проще говоря, хирургу не хватило квалификации. Наир был уволен и больше роботизированными операциями, к счастью, не занимается.
15 МИЛЛИОНОВ ДОЛЛАРОВ ЗА БЕСЦЕННУЮ ЖИЗНЬ
Когда: 25 января 1979 года.
Действующие лица: Рабочий литейного завода Ford Motor Company Роберт Уильямс и 5-этажный промышленный робот-манипулятор компании Litton Industries.
Что произошло: Машина, которая убила Роберта Уильямса, весила 5 тонн, она была предназначена для транспортировки и перемещения отлитых на заводе автомобильных деталей. В какой-то момент робот, как показалось, стал давать неправильную информацию о количестве заготовок, которые находились на верхних полках стеллажей. Тогда Роберта Уильямса попросили подняться и вручную посчитать запасы. Когда он забрался на полку, один из манипуляторов машины пришел в движение и ударил рабочего по голове. Товарищи обнаружили тело Уильямса только спустя 30 минут, когда поняли, что парня нет слишком долго. Роберт посмертно попал в Книгу рекордов Гиннесса как первый в мире рабочий, убитый роботом. На суде выяснилось, что Ford сэкономил - не отправил Уильямса на обучение по обращению с убившей его машиной. Его семье была выплачена компенсация в размере 15 миллионов долларов.
ВМЕСТО КОММЕНТАРИЯ
Могут ли они выйти из повиновения?
С момента первого трагического инцидента с Робертом Уильямсом прошло более 40 лет. Сегодня, по некоторым оценкам, только в США ежегодно роботы становятся виновниками травм и увечий около 5 тысяч человек. Это, как правило, тот самый травматизм на производстве. Но в подавляющем большинстве случаев виновником инцидентов является все же не злая воля машины, а тот самый человеческий фактор - люди страдают от того, что не умеют управлять роботами.
Это слабое утешение для пострадавших. Однако пока нет оснований подозревать самих роботов в стремлении выйти из повиновения. Другое дело, что злоумышленники (например, хакеры) могут использовать киборгов, чтобы нанести вред людям. Но это уже совсем другая история.