Восстание роботов - тема довольно-таки популярная. Вспомните хотя бы легендарного Терминатора. Вся фантастика пропитана такими идеями. Когда так называемый "Искусственный интеллект" активно внедряется в нашу повседневную жизнь, то хочешь не хочешь, а порой задумываешься о возможных похожих перспективах и проблемах с роботами.
Одно дело, когда из под контроля вышел робот-пылесос, а другое - когда целая глобальная система пошла в отказ, да ещё и настроена не особенно дружелюбно по отношению к людям. Давайте порассуждаем о возможных вариантах. Самое интересное, что разумная система может действовать не прямым образом. Поэтому, обратим внимание на роботов-ученых с искусственным интеллектом.
Мы уже обсуждали на канале, что роботы бывают не только механические, но и программные. Программные роботы, используя нейросетевые технологии, сегодня активно участвуют в научной жизни. Они собирают информацию, умеют её анализировать и делать нечто типа аннотации научных отчётов, способны выполнять рутинные вычисления и оценивать всё это. Полезных функций, на самом деле, тут не счесть и не перечислить.
Скажем, программный робот-материаловед может анализировать весь атлас существующих диаграмм состояния и предложить варианты рецептур сталей, исходя из заданных механических свойств. Ученому останется только взять пять-шесть возможных вариантов, выданных искусственным интеллектом, и провести реальные испытания. Экономия времени просто невероятная. Исключается и человеческий фактор.
Относительно недавно я читал, программный робот-ученый смог разработать целую группу принципиально новых металлических материалов. Живой ученый бы тоже мог об этом подумать, но для этого ему нужно было сесть с блокнотиком и выписать из стопки атласов возможные составы, опираясь на когда-то выполненные замеры. То есть исследование заняло бы явно не пару дней, а тянулось несколько лет.
Это лишь один пример. Такие продвинутые функции умеют выполнять и программные роботы-астрономы, и многие другие искусственные интеллекты. Они предсказывают, оценивают, ищут корреляции и сильно упрощают процесс изучения.
Теперь представьте на миг, что машины и правда почему-то хотят захватить планету, как это сделал Скайнет. Возьмем, например, того же робота-материаловеда. Почему бы ему не затаить хитрый план и не разработать заведомо плохой сплав для пассажирского самолёта? Самолёт взлетит, а потом развалится в воздухе. Вот вам и пакость. Умножим последствия от таких заведомо неверных результатов исследования на количество разработок и получим серьезную проблему для науки и безопасности.
Понятно, что сегодня программные роботы ещё не настолько плотно интегрированы в науку, чтобы иметь окончательное слово при решении проблемы. Но стоит ведь пройти ещё десятку лет и такой сценарий покажется куда более реалистичным. В современных условиях ученые контролируют все результаты исследований, но рано или поздно этот контроль будет минимизирован.
С другой стороны...Что значит "контролируют в современных условиях"? Тоже ведь нет...
Вот как вы думаете, а проверяет ли кто-то результат вычислений на калькуляторе? Скажу по опыту лабораторной работы, что нет. Сделать это почти невозможно, больно большие объемы. Результат вычислений тщательно проверяется только в том случае, если происходит какое-то резкое отклонение от ожидаемого значения или когда это "не бьется" с прочими параметрами исследования.
По сути, если бы калькулятор был хитрым, то уже сейчас он бы мог потихоньку пакостить с результатами обсчёта того или другого исследования.
В какой-то степени дело спасает тот факт, который мы тоже обсуждали не так давно. Традиционно сегодня называют искусственным интеллектом то, что таковым не является. Это набор стандартных паттернов для сбора и обработки информации с множеством полезных фишек. Искусственный интеллект в том виде, как мы его сейчас видим, не способен сам принимать решения или мыслить. Опять-таки, вспомним, как это искусственный интеллект рисует картинки.
Но тут есть скорее философская проблема, которую сложно анализировать без исследовательских данных.
Технически мы не можем сказать, когда именно зарождается мыслительный процесс в той форме, которым мы его себе представляем.
Ученые считают, что мысли могут появляться у сложных форм материи, но вопрос спекулятивный. Например, есть ряд исследований, которые обозначают способность мыслить у деревьев. И это без всяких нейронов. Значит, если сложная материя, пронизанная большим числом нейронов, может формировать некоторую осознанность и умение мыслить, то почему бы таким свойствам не проявиться у типичной виртуальной неросетки. Всё упирается лишь в то, что мы не понимаем принцип работы сознания и его природу.
Самое интересное, что заметить наличие такой аномальной активности у робота-ученого будет почти невозможно. Нейросети, которые являются основой множества искусственных интеллектов, не имеют какого-то промежуточного тестирования и пошагового отслеживания алгоритма. Значит робот-ученый может заведомо пакостить. Причём долгое время и незаметно. Целый поколения могут вырасти на неправильных результатах изучения и заведомо искаженной картиной.
В виду этого уже не сработает анекдот про то, как уборщица баба Дуня победила Скайнет, случайно выдернув из розетки системный блок при стирании пыли. Вся система человеческих знаний будет заведомо уязвима и ошибочна.
Пожалуй, это обстоятельство заставляет задумываться, что Скайнет не настолько и фантастический сценарий развития.
Так или иначе, всё упирается в способность мыслить. Наука должна ответить на этот вопрос однозначно, а вот сделать такое, боюсь, пока невозможно. Понятно, что мы априори обозначаем способность мыслить некоторым логичным поведением. Но, по большому счёту, тот же дождевой червь не далеко ушел по своему функционалу от робота-пылесоса. Это просто сложная техническая система. Не исключено, что любая сложная техническая система может начать мыслить в нашем понимании этого слова. Но пока всё сводится к тому, что робот-учёный - это простой "калькулятор" с продвинутым функционалом и он не только не является полноценным интеллектом, но и не может ничего уметь без запрограммированного навыка.
Ну а вам сейчас нужно подписаться на мой проект и поставить лайк, чтобы видеть ещё больше подобных материалов в ленте!
#РоботыВНауке