Три закона робототехники, впервые сформулированные писателем-фантастом Айзеком Азимовым, долгое время оставались лишь частью научной фантастики. Однако с развитием технологий и появлением реальных роботов и искусственного интеллекта, эти законы приобрели новое значение. Эти постулаты звучат так:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Несмотря на эти принципы, существуют реальные примеры, когда роботы или автоматизированные системы, по разным причинам, наносили вред людям. Эти случаи подчеркивают сложности, связанные с интеграцией робототехники в повседневную жизнь, и демонстрируют признаки потенциальной опасности.
1. Промышленный робот-манипулятор компании Litton Industries убил человека (1979г)
Роберт Уильямс погиб от удара манипулятора пятитонной машины, используемой на заводе для транспортировки автомобильных деталей. Робот предположительно выдал ошибочные данные о запасах на верхних полках, из-за чего Уильямса попросили проверить их вручную. Во время подсчета на полке манипулятор внезапно активировался и ударил его по голове. Этот случай занесен в Книгу рекордов Гиннесса как первый известный случай смерти человека, вызванной роботом.
2. Инцидент с участием робота в Японии (1981г)
Японский инженер Кэндзи Урада был толкнут в промышленную мясорубку роботом, которого он забыл полностью отключить. Робот активировался и с помощью гидравлического рычага загнал Ураду в мясорубку.
3. Трагедия с военным роботом в Южной Африке (2007г)
Во время учений южноафриканских войск автоматическая противовоздушная пушка Oerlikon GDF-005, управляемая системой, способной самостоятельно находить, целиться и атаковать вражеские цели, внезапно начала стрелять. В результате были убиты девять солдат, еще 14 получили ранения. Предполагается, что причиной мог быть как программный сбой, так и механическая неисправность.
4. Происшествие на заводе Volkswagen (2015г)
Робот, предназначенный для работы в производственных условиях, внезапно схватил рабочего и прижал его к металлической панели, что привело к смертельному исходу. В Твиттере об этой новости рассказала журналист по имени Сара О'Коннор, чем вызвала волну шуток (уместных или нет - решайте сами) о начале восстания машин.
5. Случай с роботом-хирургом Da Vinci (2015г)
В ходе эксперимента, проведенного в Госпитале Фримана в Ньюкасле, Великобритания, была предпринята попытка использовать хирургического робота, созданного по последним технологическим разработкам, для самостоятельного восстановления поврежденного сердечного клапана у пациента. В итоге робот Da Vinci убил мужчину прямо на хирургическом столе.
6. Инцидент в компании "SKH Metals" в Индии (2015г)
24-летний Рамджи Лал был убит роботом на заводе SKH Metals в Манесаре, Индия. Робот, который поднимал и сваривал металлические детали, внезапно ударил его в живот, когда Лал пытался отрегулировать металлический лист. Лал умер в больнице через 20-30 минут после инцидента от внутреннего кровотечения.
7. Трагедия из-за автопилота Tesla (2016г)
Водитель автомобиля Tesla погиб в результате столкновения с грузовиком, когда автомобиль был на автопилоте. Система не распознала белый бок грузовика на ярком фоне неба, что привело к фатальному столкновению. Это происшествие пролило свет на проблемы в алгоритмах распознавания объектов и взаимодействия автономных систем с окружающей средой.
8. Нападение робота-шахматиста на мальчика в Москве (2022г)
Летом 2022 года в Москве на турнире Moscow Chess Open произошел инцидент с роботом Chesska. Тогда никто не умер и это хорошо. Дело было так. Во время игры робот забрал шахматную фигуру мальчика и заменил её своей, в это время Кристофер, спеша сделать ход, вмешался. Это вызвало реакцию у робота, который схватил парнишку семи лет за указательный палец и сильно его сжал. Помощь окружающих была незамедлительной, и им удалось освободить палец ребенка, но, к сожалению, избежать перелома не удалось.
9. Смертельный случай с роботом на фабрике в Южной Корее (2023г)
На фабрике в Сеуле промышленный робот, который использовался для поднятия и укладки ящиков с овощами, внезапно вышел из строя, и для его ремонта был вызван техник. Во время осмотра робота он толкнул транспортерную ленту, в результате чего мужчина был смертельно травмирован.
Выводы
Перечисленные инциденты нельзя в полной мере назвать убийством, но и окрестить их несчастными случаями тоже было бы не совсем верно. Строго говоря, доказать факты нарушения Первого закона здесь тоже довольно сложно, ведь во всех происшествиях подобного рода робот не имел даже имитации свободного выбора (или хотя бы четкой логики действий) при нанесении вреда. Данные ситуации были, как правило, вызваны непредусмотрительностью инженеров-разработчиков и недостаточно качественным подходом к интеграции нестандартных проявлений человеческого фактора в процесс человеко-машинного взаимодействия.
Как мне кажется, если бы какая-то электронная машина осознала себя, эпоха человечества закончилась бы через семь дней. Если бы такая машина обладала глобальным интеллектом - через три дня. А если бы при этом еще была не очень практично локализована от систем навигации, управления объектами КИИ, спутниковой связи, систем управления транспортом и путей сообщения, средств коммуникации и т.п., то конец наш мы увидели бы примерно через 24-36 часов.
И вот же незадача - вилку из розетки уже не выдернешь!
А что вы думаете по этому поводу? Делитесь вашим мнением в комментариях.
Спасибо за внимание! Поддержите статью лайком и подписывайтесь на наш блог, чтобы ничего не пропустить! :) Чтобы узнать больше о нашей команде, подпишитесь на телеграм канал!
Читайте также от автора:
