Как наказывать ИИ за смерть людей?
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений правительство – бизнес к трехуровневому правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Мне это предложение чем-то напомнило идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
