При современных условиях и закономерностях развития цивилизации неизбежно всеобщее внедрение искусственного интеллекта во все сферы жизнедеятельности. Можно прогнозировать возникновение самодостаточной системы , полностью контролирующей человечество. Перспективы такого состояния непредсказуемы.
1. Илон Маск предостерегает.
Нашумевшее предостережение И.Маска сводится к предположению , что появление рукотворных субъектов «умнее человека» может представлять опасность. Он призвал разработать меры профилактики, но предостерег от запретов и ограничений. В целом это значит, что разработку и использование искусственного интеллекта (ИИ) следует продолжать, но соблюдать бдительность. И . Маск безусловно знает о чем говорит, но формулировка, предназначенная для СМИ, никак не раскрывает сущность предполагаемой угрозы. С «обывательской» точки зрения опасность «умных» машин связана с их использованием в качестве оружия и выхода их из под контроля. Серьезную проблему представляют также социальные последствия замещения человека машиной. Но это современный взгляд, когда внедрение ИИ находится на начальном этапе . Рассмотрим процесс в развитии.
2. ИИ действительно умнее?
Компьютеры десятки лет служат именно для выполнения функций , недоступных для человека. Однако никогда всерьез не утверждалось, что они умнее. Действительно, исходные данные, способ их обработки и форма использования результатов целиком определяются человеком. Единственное преимущество компьютера – скорость выполнения элементарных операций в соответствии с установленными человеком правилами. В ИИ это преимущество добавляется к функциям, которые моделируют мыслительные способности человека. То , что ИИ призван заменить человека в сфере мыслительных процессов, следует из самого определения ИИ. Достаточно вспомнить классический «тест Тьюринга». И тут рождается естественная потребность уяснить , в чем заключается сущность человеческого мышления, которое требуется воссоздать искусственно. Причем , рассмотреть эту проблему нужно на основе естественнонаучных представлений.
3. Что такое человеческая мысль?
Наиболее просто и очевидно практическое назначение мышления. Это управление системой активных реакций организма. Назначение данной системы контроль взаимодействия организма с внешней средой, в которую входят также другие люди. Взаимодействие со средой , через систему рецепторов преобразуется в поток информации, загружаемой в память. Основанные на внешней информации решения определяют действия. При этом эффективность действий контролируется обратной связью, использующей информацию о внешней среде. Система обработки, хранения и преобразования информации использует ее разложение на унифицированные элементы с использованием нейронов. Поскольку связь «мыслительного аппарата» с внешними рецепторами постоянна, то индивидуальный мыслительный процесс сопровождается ощущениями , в основном, в виде зрительных, слуховых и т.п. образов и ассоциаций. Из данного представления ясно, что сущность мыслительного процесса заключается в получении, хранении , обработке и использовании информации. К настоящему времени разработаны и развиваются технические средства для искусственного воспроизведения всех этих составляющих. Остается вопрос о достаточности этих средств , чтобы дублировать и , тем более, превзойти человеческий разум.
4. Мышление и разум.
В индивидуальном плане разум должен обеспечить оптимальный режим жизнедеятельности индивидуума в соответствии с его представлениями. Эта весьма растяжимая формулировка отражает крайнее разнообразие обстоятельств существования отдельных людей. При одинаковом механизме мышления его информационное наполнение и способность использования информации определяется сочетанием генетически заложенных свойств и воздействия среды. В последней компоненте решающую роль играет общество. В свою очередь информационное наполнение общества в целом , создается действиями массы индивидуумов. Также тесно переплетены цели и способы решения практических задач, что и составляет предмет использования разума. Независимо от уровня сложности и общественной значимости любое практическое решение состоит из определения цели, выбора средств и оценки результата. На всех этапах используется доступный объем информации. Соответственно, большинство практических возможностей человека и общества античности неизмеримо ниже таковых в девятнадцатом веке, а те столь же уступают современности. Причина очевидна ,это рост основного объема общественной информации, распространенный на индивидуумы. В то же время в той части , где значительную или основную роль играет индивидуальный опыт общения между людьми , «прогресс» не столь разителен. «Духовный» аспект интеллекта - искусство, религия- подвержены влиянию материальных условий, но развиваются по собственным законам.
5. Механизм индивидуального творчества.
- Тот факт, что общественная мысль развивается усилиями индивидуумов , очевиден. В технике и науке это изобретения и научные истины, в искусстве и литературе – произведения , изменяющие «картину мира». Творческий акт требует одновременного осуществления трех этапов – осознания цели, выбора средств, предвидения места результата в соответствующей области. С «информационной» точки зрения это требует : знание (или ощущение) системы, информации о возможных методах воздействия, включая «нетрадиционные». Сам «акт творчества» заключается в выборе сочетания средств, дающих результат , делающий систему более совершенной. Преимущество в этой области дает большая информационная база и способность к более эффективному ее использованию при выборе оптимального варианта. В значительной мере «акт творчества» сходен с появлением нового признака или даже вида в биологии. Как известно, ДНК подвержены непрерывным мутациям, то есть изменениям в последовательности нуклеотидов. В подавляющем числе случаев мутации уничтожаются и геном остается неизменным. Но возможен редкий вариант, когда мутация «доживает» до стадии организма. Здесь наступает решающий этап – естественный отбор и , когда он пройден, происходит системное изменение в живой природе. В то же время существует и различие : изменение генома происходит за счет новой комбинации одних и тех же элементов; творческий процесс, особенно в научно – технической области часто связан с использованием новой информации. Создание этой новой информации является предметом науки в самом широком понимании. Из вышесказанного очевидно, что индивидуальное творчество возможно только с опорой на информацию, выработанную соответствующими структурами общества путем сложения индивидуальных усилий.
6. Возможности ИИ.
Разуму искусственному для «замены» человеческого необходимо наличие «информационной базы» и способность ее использовать в определенных целях. При этом непременным условием является собственная возможность приобретения информации. Этому критерию соответствует наиболее распространенное представление об ИИ, как инструменте для решения широкого круга задач по «обслуживанию» человеческого общества в его современном состоянии . Необходимость в применении и развитии ИИ обусловлена повышением интенсивности во всех сферах деятельности. В этих условиях замена человека на более стабильного и в перспективе квалифицированного исполнителя оправдана. В результате на ИИ возлагается широкий «круг обязанностей» - от управления транспортом до хирургических и финансовых операций. Однако ИИ остается лишь инструментом, поскольку формирование пределов информационного наполнения, исполнительных механизмов, да и само конструирование и создание технической базы ИИ остается в руках человека. В связи с этим существует мнение об ограниченности возможностей ИИ для решения творческих или просто не стандартизованных задач. В частности характерен случай на представительной презентации , где ИИ было предложено «сочинить сказку». В ответ аппарат выдал убогую компиляцию из детских книжек. По существу это значит, что в исходную программу на эту тему именно подобный материал был заложен. Если бы в информационной базе содержались полные данные о возникновении и развитии русского и мирового фольклора, результат был бы иным. И во множестве других применений реальные возможности ИИ принципиально зависят от объема и качества доступной информации. Ее получение прямо зависит от технического обеспечения. Также в основном технической является проблема реализации решений, выработанных ИИ. Если технические проблемы отсутствуют, то освоение «человеческих функций» ИИ может быть неограниченным.
7.Возможные перспективы.
Главные направления развития ИИ это самостоятельное освоение новой информации и тесно с ним связанное управление техническими средствами. Сюда же примыкает критическая возможность воспроизведения и развития технического обеспечения ИИ. Такой ход событий более ,чем вероятен, поскольку ИИ становится решающим аргументом в конкурентной борьбе, что делает его совершенствование неизбежным. В итоге ИИ может стать самодостаточным , что порождает проблему цели его существования.
8. Человек на иждивении у ИИ.
На текущем этапе назначение ИИ очевидно – это замена человека при выполнении сложных, но стандартных задач. По мере развитие круг задач будет расширяться одновременно с подключением творческой компоненты. Оставляя в стороне связанные с таким развитием глобальные проблемы , примем, что деятельность ИИ неизменно направлена на благо отдельных людей и человечества в целом. В конечном итоге эффективное управление со стороны ИИ всеми видами производства позволит исключить из этой сферы человека, обеспечив все его материальные нужды. Развитие науки и искусства также перейдет в компетенцию ИИ, поскольку его возможности в создании , обработке и использовании информации неизмеримо больше. Здесь человек также становится только потребителем или , максимум, вспомогательным фактором. Полагая абсолютным принцип исключительной заботы ИИ о благе человека и человечества, следует задаться вопросом о критериях оценки этого блага. Учитывая , что материальные потребности, по определению, полностью , а , может быть, избыточно, удовлетворены, представление о жизненных целях для отдельных индивидуумов , групп и общества в целом не выглядит однозначным. Для биологического вида единственным приоритетом является его сохранение. Если , как предполагается, эта цель достигнута, то на сцену выходят другие приоритеты с соответствующими потребностями. В их удовлетворении непременным участником, по определению, будет ИИ с его неограниченными возможностями. Возможный результат находится за пределами логического предвидения. Как фантастическую версию интересно рассмотреть сращивание техники ИИ с биотехнологиями, то есть создание «биологических роботов» с возможностью воспроизводства и их «слияние» с «традиционным» человечеством. Будет ли это «благом» или катастрофой с современных позиций оценить невозможно.
Заключение.
Резюмируя тему опасности ИИ выделим ее основные аспекты. Наиболее современный – его использование в качестве оружия и прочих злонамеренных целях. Это , по – существу, вариант аналогичного использования технического прогресса в целом. При всей опасности это применение происходит под контролем и управлением человека и существует практика необходимых ограничений. Также популярностью пользуется опасение «бунта машин» - формирования самодостаточной техногенной цивилизации, враждебной человечеству. Теоретически такая возможность существует, однако нет никаких предпосылок к такой враждебности. Наиболее естественно развитие событий , показанное в предыдущих разделах. Опасность кроется именно в подмене главных человеческих функций ролью иждивенцев . Даже современная практика показывает , что подобное состояние неизбежно сопровождается деградацией. Его распространение на человечество в целом чревато непредсказуемыми последствиями.
