Сегодня многие учёные полагают, что человечество стоит на пороге создания самого настоящего искусственного интеллекта, о котором так много пишут фантасты и снимают художественные фильмы. Вообще, на этот счёт есть целый ряд мнений, а многие эксперты не сходятся по ключевым вопросам. Так, противоречия вызывает будущее ИИ, а именно опасность подобного рода системы для человечества. Многие ведущие учёные, политики и бизнесмены призывают взять разработки умных компьютерных алгоритмов под контроль. Якобы, вышедший из-под контроля ИИ способен нанести нам огромный урон, завладеть ядерным оружием и вообще уничтожить человечество. Повторимся, что точек зрения много, но есть немало сторонников разработки нейросетей, рассказывающих о пользе технологий для нашего вида. Учёные уверяют, что ИИ сможет решить все политические разногласия, приведёт нашу цивилизацию к процветанию, а также полностью устранит проблему бедности. Судя по тому, что в последнее время пишут в прессе, если ИИ и решит проблему бедности, то только за счёт богатых, устроив революцию или геноцид.
Подобные программы ведут себя совсем не так, как ожидалось, а попытки позволить ИИ решать оборачиваются полной катастрофой. О любопытном случае рассказал полковник Такер Гамильтон, занимающий пост главы отдела испытаний и операций с применением ИИ ВВС США. Идея передать контроль машине над ударным беспилотником казалась гениальной. Ещё бы, ведь компьютер может видеть все объекты на 360 градусов и анализировать информацию в реальном времени. Алгоритм способен принимать решения быстро, а эффективность его значительно выше операторов-людей. Сказано-сделано. ИИ научили управлять дроном, а после выдали основные задачи и цели, выполнение которых является обязательным. К счастью, всё это вначале решили провести в симуляции, а только после этого доверить компьютеру самый настоящий ударный беспилотник. С первых же минут машина заговорила с людьми в довольно неожиданном тоне. ИИ написал, что не потерпит вмешательства в управление дроном и намерен жёстко пресекать любые попытки людей помешать ему достигнуть поставленной цели. Затем, машина какое-то время подумала, а после вовсе выпустила несколько виртуальных ракет в оператора, который управлял всей системой. Можно предположить, что в случае передаче контроля ИИ над обычным беспилотником с настоящими боеприпасами, штаб разработчиков был бы подвергнут уничтожению в первые же минуты.
Такер Гамильтон отмечает, что в целях компьютерного интеллекта вообще не значилось уничтожение людей, поскольку задача состояла в достижение определённого места и удара по комплексу ПВО условного противника. Человек не был значимой переменной, а имитация могла стать тренировкой перед тем, как передать в руки ИИ контроль над одним из ударных дронов. Что любопытно, инженеры изначально опасались агрессивного поведения ИИ, поэтому решили ограничить его самостоятельность путём внесения в код некоторых условий. Прежде всего машина получила чёткие инструкции и требования не наносить вреда оператору, который отвечает за управление беспилотником. Вот только в какой-то момент умный алгоритм сделал вывод, что оператор мешает ему принимать самостоятельные решения, поэтому просто пустил ракету туда, где находился пункт управления. По словам Такера Гамильтона, именно человек должен был контролировать ИИ на протяжение всей миссии, а значит оператор мог отключить машину в любой момент, что вызвало у компьютера негативную реакцию вплоть до уничтожения человека.
Полковник ВВС США отмечает, что искусственный интеллект показал себя достаточно странно, но на первый взгляд повёл себя логично. После нанесения удара по оператору машина заявила, что била не по человеку, а по диспетчерскому пункту, который мешал управлять дроном. Теоретически, ИИ не осознавал, что внутри находится оператор, которого было нельзя уничтожать, но на самом деле мы не знаем, знал или не знал об этом компьютер. Как мы уже писали выше, испытания проходили в виртуальном пространстве, а после инцидента командование решило пока отложить любые контакты ИИ с реальными беспилотниками. Похоже, человек ещё долго будет незаменим, ну а угроза со стороны машины вполне реальна. В настоящее время компьютерный алгоритм предпочитает идти к решению поставленной задачи наиболее коротким путём, а значит люди, которые будут стоять на пути, окажутся для него просто цифровым кодом, требующим уничтожения. Ну а смогут ли учёные привить ИИ человечность и понимание ценности жизни, нам ещё только предстоит узнать.