🤖 Sunday Magazine № 4-2022
За последние 25 лет от рук роботов погибли десятки людей. Но по мере того, как роботы становятся умнее, меняется ли виновный, когда они выходят из-под контроля?
25 января 1979 года 25-летний рабочий завода Роберт Уильямс взобрался на стеллаж для хранения на литейном заводе компании Ford Motor Company во Флэт-Рок.
Роберт – один из трех работников системы поиска запчастей, которому было поручено наблюдать за промышленным роботом — однотонной, пятиэтажной массой шестерен, которая перемещала автомобильные детали с полок вниз.
Той ночью робот дал ошибочные показания о наличии инвентаря, и Уильямс был вынужден подняться на стеллаж самостоятельно. Но ему это не удалось: на полпути робот ударил его сзади, раздавил и бросил умирать высоко под крышей фабричного цеха.
Это был первый в истории случай, когда робот убил человека, но не последний.
За последние 30 лет в США было зарегистрировано 61 травма и смерть, связанные с роботами. Подавляющее большинство из них было вызвано промышленными роботами, вроде того, что убил Роберта Уильямса. Но что происходит, когда робот выходит из-под контроля? И кто виноват?
Когда роботы убивают
В 1942 году легенда научной фантастики Айзек Азимов изложил то, что впоследствии стало известно как Три закона робототехники, или законы Азимова — набор принципов, которым роботы должны следовать в будущем:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
- Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.
К сожалению, первое правило неоднократно нарушалось.
В заводских условиях роботы предназначены для “выполнения небезопасных, вредных, часто повторяющихся и неприятных задач”. В результате у роботов часто не хватает интеллекта для обнаружения людей вне запрограммированных задач.
Добавьте к этому тот факт, что в настоящее время нет конкретных стандартов безопасности на рабочем месте для индустрии робототехники, и вы получите катастрофу, ожидающую своего часа.
Часто смертельные взаимодействия происходят, когда у робота есть механическая (аппаратная) проблема и требуется вмешательство человека, но машине не хватает программного интеллекта, чтобы отличить человека от поддона, коробки или другого предмета, который она запрограммирована захватить, раздавить и/или уничтожить.
Мы просмотрели архивы новостей, судебные документы и отчеты OSHA (Управления по охране труда в США) и обнаружили ряд случаев, когда действие робота (или неправильное срабатывание соответствующего механизма безопасности) казалось причиной смерти работника. Несколько примеров:
Робот непреднамеренно включился (4 июля 1981 года)
Кто: Кендзи Урада, 37-летний сотрудник техобслуживания.
Где: завод Kawasaki Heavy Industries (Акаси, Япония).
Что произошло: Когда робот на ультрасовременном объекте Кавасаки вышел из строя, Урада открыл защитный барьер (действие, которое должно было автоматически отключить машину) и попытался решить проблему. Робот снова повернулся, ударил Ураду рукой в спину, а затем раздавил его.
Расследование показало, что многие японские фабрики имели “тенденцию игнорировать правила”, когда дело касалось новых захватывающих роботов. Машину-нарушителя убрали с завода и установили более надежные ограждения.
Робот не распознал человека (21 июля 2009 года)
Кто: Ана Мария Виталь, 40-летняя фабричная работница.
Где: Golden State Foods (поставщик мяса из Калифорнии)
Что произошло: Витал наблюдала за роботом-паллетоукладчиком, гигантской машиной, которая укладывала коробки. Коробка застряла, и Виталь вошла в “клетку” робота, чтобы вытащить ее, но когда она это сделала, робот принял ее за коробку и схватил, раздавив туловище. Предполагалось, что робот был оснащен датчиками, позволяющими отличать людей от коробок, но они не сработали.
Робот выходит из-под контроля (7 июля 2015 года)
Кто: Ванда Холбрук, 57-летний заводской техник.
Где: Ventra Ionia (Иония, автосборочный завод в Мичигане)
Что произошло: Холбрук чинила механизм, когда заводской робот вышел из-под контроля. Согласно судебному иску, рука робота “застала [Холбрук] врасплох” (вопреки его программному коду). Когда она вошла в секцию, машина “раздавила ее голову между узлом сцепки, который она пыталась установить”. Через 40 минут она умерла.
В 2017 году муж Холбрук подал жалобу, в которой обвинял 5 инженерных фирм, занимавшихся созданием, тестированием и обслуживанием робота; в настоящее время судебные разбирательства продолжаются.
Кто виноват, когда робот убивает?
В большинстве случаев робот убивает человека потому, что он слишком глуп, а не слишком умен. Таким образом, вина (или иначе – халатность) обычно возлагается на производителя этого робота.
В случае с Робертом Уильямсом, например, присяжные признали производителя робота, Litton Industries, виновным, а семье рабочего присудили 10 миллионов долларов. (Окончательная сумма была в конечном итоге урегулирована во внесудебном порядке в обмен на то, что Litton не признает халатности в своих действиях.)
Но по мере того, как искусственный интеллект (ИИ) развивается и роботы становятся чем-то большим, чем просто программным обеспечением, следующим за компьютерным кодом, проблема с обвинением будет становиться все более сложной. В настоящее время ученые-правоведы ведут “яростные дебаты” о том, можно ли гипотетически обвинить робота в убийстве.
Габриэль Халлеви, автор книги “Когда роботы убивают: ИИ в соответствии с уголовным правом” (“When Robots Kill: Artificial Intelligence under Criminal Law”), подробно изучил эту тему и предложил изменить уголовное законодательство, чтобы “нечеловеческие существа” (aka роботы) несли ответственность за преступления, как и корпорации.
В большинстве стран уголовная ответственность наступает в двух случаях: 1) действие, или само преступление, и 2) осознанный умысел умысел.
Роботы наносили удары ножом, давили, убивали электрическим током и душили фабричных рабочих — мы уже знаем, что они способны совершить действие (преступление). Но как быть с умыслом?
“В уголовном праве определение [умысел] очень узкое, — сказал Халлеви Washington Post в 2013 году. — Это способность поглощать чувственные данные и обрабатывать их… для создания внутреннего образа”.
Машинное обучение (часть ИИ) стремится дать роботам возможность делать именно эту способность: мы надеемся, что, скармливая роботу большие объемы данных, он научится обрабатывать их самостоятельно. В будущем, когда промышленные машины смогут принимать собственные решения таким образом, роботы вполне могут быть обвинены в намерении убить.
Расслабьтесь, роботы не злые убийцы… пока
Машины приобретают самостоятельность со скоростью, сравнимой с 4-й промышленной революцией. И каждый раз, когда что-то идет не так — будь то смерть от беспилотного автомобиля или фатальные действия умного робота на производстве, — это становится сенсационным заголовком, независимо от того, кто виноват.
Наши страхи перед роботами всегда были связаны с тем, что они получают слишком много интеллекта: писатели-фантасты твердили об опасностях разумных роботов-убийц. Технологические светила, такие как Илон Маск и Билл Гейтс, пожертвовали миллионы долларов на исследование рисков, связанных с ИИ. Каждый раз, когда машина Boston Dynamics делает сальто назад, интернет сокрушается о конце человечества.
Но периодические истории о смертях, связанных с роботами, хотя и ужасные, и сенсационные, не должны приводить к выводу, что роботы — это какое-то злое или смертоносное бедствие.
Дело в том, что до сих пор большинство инцидентов, связанных с роботами, были результатом: 1) слишком глупых, а не слишком умных машин, или 2) ситуаций, когда человек не следовал инструкции при управлении машиной. Одновременно – к лучшему и к худшему – ИИ готов изменить и то, и другое.
Основательница исследовательской фирмы ATONATON, Мадлен Гэннон работала над улучшением взаимодействия между человеком и машиной и получила звание “заклинательницы роботов”.
В одном видео она стоит перед огромным оранжевым роботом-манипулятором, используя маркеры захвата движения для управления его движениями. Он следует за ее рукой, как заколдованная змея — и на мгновение легко забыть, что эта машина способна раздавить человеческий череп. Это уже не “вещь”, а живое, динамичное существо.
Вскоре, рассказывает она, такие машины покинут лабораторию и “будут жить в дикой природе”. И время покажет, решат ли они вести себя хорошо.
Оригинал https://thehustle.co/when-robots-kill/