Бывшая сотрудница Google Лора Нолан рассказала британскому изданию The Guardian, что до 2017 года корпорация помогала вооруженным силам США с разработкой искусственного интеллекта (ИИ) для дронов. С его помощью военные планировали создать автономное оружие, способное самостоятельно находить цели и даже принимать решение об атаке. Всё — на основе видео с камер.
В рамках Project Maven разработчики Google и специалисты армии США разрабатывали подобный алгоритм, рассказала Нолан журналистам.
«Я не занималась алгоритмом обработки видео напрямую, но отвечала за постоянство его работы. В какой-то момент поняла, что мы все — звенья цепи, ведущей к убийствам».
— Лора Нолан
Многие сотрудники Google были против сотрудничества с военными. Они вынудили компанию свернуть проект в 2017 году.
Но другие компании продолжают работать над автономным оружием. Нолан это пугает: в системе распознавания целей может произойти сбой — и дроны-убийцы выйдут из-под контроля. Факторы, которые могут к этому привести, очень сложно просчитать. Тем более — в боевых условиях.
Полностью автономного оружия пока ни у кого нет. Но всё к этому идёт. Известно, что на вооружении ВВС США состоит военный корабль, способный выполнять миссии без экипажа в течение несколько месяцев. Армия обороны Израиля используют дронов с автономной системой распознавания целей. Правда последнее слово всё равно за человеком — именно оператор принимает решение об атаке.
«Сейчас слишком мало об этом говорят. Риск военного конфликта из-за ИИ огромен А там и до атомной войны недалеко».
— заметила Лора Нолан