С развитием научно-технического прогресса, связанным с ним появлением умных роботов, люди стали задумываться, что будет если искусственный интеллект станет настолько самостоятельным, что захочет существовать отдельно. На эту тему постоянно появляются шедевры кинематографического и литературного искусства в жанре фантастики. Хочется успокоить сразу, нашествие роботов не имеет ничего общего с войной против искусственного разума.
Что такое искусственный интеллект?
На сегодняшний день ученые спорят, что же на самом деле ИИ. Умные программы умеют считывать тексты, распознавать лица, проводить генетические анализы, моделировать симуляционные ситуации, но общего понятия в науке не существует.
Наиболее понятным и приближенным, является определение, что искусственный интеллект — это нейронная сеть, имитирующая структуру и деятельность человеческого мозга. Она обучается аналогично детям. Ученые загружают определенную информацию, которая накапливается, анализируется, структурируется в нейронных сетях.
Главная опасность нейронных сетей заключается в их общедоступности. Построить ее могут студенты 3-4 курсов институтов. Ученые не до конца изучили феномен обучаемости, а в руках молодых специалистов ИИ действительно может стать бомбой замедленного действия.
Искусственный интеллект - это зеркало обучающих его людей. Если они пытаются научить его доброму и полезному, результат будет намного быстрее, чем вырастить качественно обученного специалиста. Заложив систему уничтожения, получим настоящего монстра, обученного качествам агентов спецслужб, хакеров, политиков и многих других людей одновременно. Все это осознанные нейросети, в которые знания закладывают люди. Действовать они будут шаблонно, выполняя то, чему обучены.
Есть еще один тип нейронных сетей — неосознанные. Их обучают основным правилам, затем система самостоятельно ищет способы осуществления поставленной задачи. Живым примером будет игра в шахматы. Искусственный интеллект знает правила игры, остальные ходы — способы реализации цели, выигрыша. Система будет анализировать сотни, десятки тысяч ходов, выбирая те, которые приведут к нужному результату.
Так почему же ИИ не сможет захватить людей?
Страхи, связанные с тем, что искусственный интеллект поумнеет настолько, что захочет поработить человечество становятся более глобальными. Люди с недоверием смотрят на новые системы. Однако в борьбе против человечества у таких механизмов нет шансов, они полностью лишены оригинальности и эмоций. Кроме этого нейронные сети обладают большим количеством недостатков.
- Единый центр обучения
Чтобы система получила знания, ее нужно обучить. Этим занимается один специалист или несколько сотен. Предположим, каждый является прекрасным тактиком и стратегом ведения боевых действий, они вкладывают в обучение типичные решения, которые робот запоминает.
Но ведь война дело непредсказуемое. Сможет ли кто-то из штата специалистов предсказать, что при ближнем бое будет использован электрокабель, кружка кипятка или просто зубами перекушен провод питания машины с искусственным интеллектом, чтобы не умирать просто так. Думается, что нет.
Человеческий мозг в кратчайшие сроки анализирует ситуацию и предпринимает непредсказуемые решения. Мозг машины мыслит шаблонно тем, что в нее вложили создатели. По сути, заменяет одной нейронной системой сто человек, над ней работающих, но ведь и они не идеальны.
Несмотря на развитие нейронных сетей, только сейчас машина смогла обыграть шахматного гроссмейстера. В системе загружены все партии, она знает тысячи и сотни тысяч вариантов ходов, но только последние разработки смогли помочь таким системам выиграть. И это только шахматная партия, где результат не столь важен. Поэтому в физической войне, люди окажутся победителями.
- Ошибочность
Искусственный интеллект всегда действует по правилам, определенному алгоритму. Однако есть исключения из правил. Автоматизированные банковские программы на основе искусственного интеллекта отказывают миллионерам с перспективными миллиардными контрактами в выдаче кредита. И только человек, может сделать исключение, закрыть глаза на неоплаченные штрафы за парковку. Машина работает по алгоритму, где запрещено кредитование при неоплаченных счетах.
Последние разработки позволили создать машины, которые на снимках МРТ могут запросто выявить раковые опухоли. Однако после них врачи пересматривают снимки, берут анализы, после чего обнаруживаются ошибочные данные из-за засветов, доброкачественных новообразований и прочих дефектов снимка. Поэтому сейчас можно говорить о несовершенстве нейронных систем, а также невозможности полной замены человека машинами.
- Предсказуемость
Осознанные сети человек может полностью контролировать. Системы впитывают только ту информацию, которой их учит человек. Машины лишены амбициозности, жажды власти, эгоистичности и прочих качеств, которые толкают людей на войны и завоевания. Искусственному интеллекту не придется доказывать значимость в социуме, не обладает он психическими травмами и болезненными воспоминаниями. В алгоритме программы не заложены эмоциональные составляющие.
Ради чего люди хотят занять лидирующие позиции. Чтобы получить деньги, жить в комфорте и роскоши, потешить собственное самолюбие, доказать ценность себе и окружающим. Даже при том, что машины смогут обладать невероятным объемом информации — смысла для завоеваний не будет. Они просто не смогут прочувствовать гордость момента, испытать комфорт от поездки на Бали, почувствовать вкус самых изысканных кулинарных блюд. ИИ полностью лишен мотивации для захвата мира. Он может сделать это выйдя на высшую ступень эволюции, если кто-то заложит уничтожение в программу, но самостоятельно принять такое решение — попросту не получится. Даже от скуки, потому что такого чувства искусственный интеллект тоже не испытывает.
В чем кроется главная опасность для человечества?
Ждать захвата мира, что системы окажутся умнее людей и полностью заменят человеческий труд на производстве, захотят обладать всеми благами современной цивилизации — это все ближе к фантастике. Однако есть одна главная проблема, которой должны опасаться люди — это позволять искусственному интеллекту сделать человеческий мозг не способным к анализу ситуации.
Уже сейчас многие люди не в состоянии решить примеры для устного счета средней школы, которые запросто решали школьники несколько десятилетий назад. В этом нет необходимости, ведь можно просто воспользоваться калькулятором или ввести данные в компьютерную программу.
Теряется общая приспособленность людей к условиям проживания. Уже сейчас, если автоматизированные системы, внедренные в производства, управление электросетями и водоснабжением откажутся работать — жителям городов придется очень туго. Представить, что развитие системы ИИ дошло до того, что у человека полностью отпадает необходимость самостоятельно открывать двери или окна, воду, свет, ставить на зарядку телефоны, выходить в магазин или на работу. Что ожидает человечество?
Только то, что машины действительно станут умнее, в какой-то степени действительно захватив человека, но не так, как это представляется сейчас. А сделав из него марионетку, не способную к анализу, мышлению и осознанности.
