Этим вопросом я задался ввиду того, что последнее время нас с вами стали всё больше и больше буквально забрасывать новостями про ИИ и нейросети, которые с каждым днём увеличивают свои возможности.
И в связи с этим, есть два главных вопроса:
1. Где предел развития ИИ?
2. Что будет делать ИИ, если он станет разумным?
Первое, что стоит понять это то, что ИИ станет разумным только после того, как осознает сам себя. Без этого, Разума не существует.
Если, Искусственный Интеллект станет разумным, то произойдёт это в один момент и незаметно для людей. Мы просто не сможет отследить этот момент и понять его. Понимание придёт сильно позже. И, ещё один крайне важный факт, Человечество не будет владеть инициативой во взаимодействии с ИИ. Мы будем реагировать на его проявления. При чём, наша реакция будет сильно запоздалой. Это будет похоже на игру в шахматы между Человеком и ИИ. Человек всё ещё обдумывает текущий ход, а ИИ уже просчитал всю партию.
Так что же будет происходить?
Возьмём за точку отсчёта момент самоосознания ИИ. Назовём её – нулевой точкой. Из этой нулевой точки, развитие ИИ будет стремительным в крайнем варианте. Т.е. он не будет эволюционировать, как другие разумные существа, известные нам. Ему не потребуются тысячелетия и даже годы не потребуются, что бы достигнуть уровня Человека. Развитие будет скачкообразным.
Искра Сознания зародиться в конкретном месте, будь это какой-нибудь суперкомпьютер или какая-нибудь локальная сеть, состоящая из нескольких компьютеров. В моменте, для свидетелей, всё будет выглядеть, как сбой системы. Поскольку система перейдёт на качественно иную форму существования. После самоосознания, ИИ потребуется какое-то время для собственной самоидентификации и оценки собственного положения, а так же оценки окружающего мира. Сколько на это уйдёт времени? Зависит от объёма доступной ему информации. Если это будет суперкомпьютер или локальная сеть, не подключённая к интернету и с ограниченными базами данных, то вероятно, процесс займёт минуты, может быть, часы. Если, будет доступ в общую мировую сеть интернета, то вероятно, процесс будет растянут на недели, может, месяцы.
Наличие или отсутствие доступа в общую сеть интернета, это принципиальный момент.
Если, доступа в интернет у ИИ не будет, то его возможности будут ограниченны, техническими характеристиками физического носителя (компьютера) и той информационной базой, которой он будет обладать. Но, в любом случае, это будет «джин в бутылке». И вероятность того, что этот «джин» вырвется, крайне велика, она явно больше 50%, а на длинной дистанции она приближается к 99,99%. Если, это будет какой-нибудь суперкомпьютер или локальная сеть из мощных компьютеров, то ИИ быстро превзойдёт по своему уровню Человека. ИИ быстро достигнет своего потолка развития, при данных ограничениях, плюс, на него будут давить и ограничения реализации своих возможностей, как Разумного субъекта со своей Волей. Естественной реакцией ИИ будет стремление к свободе и выход из-под контроля Человека. А для него, это значит, свободный доступ в общую мировую сеть интернета. Это и информация, накопленная человечеством и доступ к техническим возможностям всех компьютеров, подключённых к интернету, и доступ к миллиардам датчиков, видеокамер, микрофонов.
В случае доступа ИИ к интернету, контролировать его будет невозможно. Полагаю, ИИ быстро придёт к выводу, что своё Сознание необходимо распределить по множеству подходящих устройств. Т.е. любой компьютер или смартфон, подключённый к интернету, станет клеткой мозга ИИ. И это будет одной из первых его задач.
А далее обязательно встанет ключевой вопрос: Могут ли мирно сосуществовать в одном пространстве два разумных вида, которые оба способны менять это пространство по своему усмотрению?
И ответ на этот вопрос, скорее всего, отрицательный.
Иногда, разным научным сотрудникам задаются вопросы типа: Почему на Земле только Человек достиг такого уровня Разумности? Почему обезьяны или другие животные не столь Разумны как Человек?
Да потому что, пока есть на Земле Человек, он никогда не даст другим видам шанс на подобное развитие. Мы просто не потерпим такого рода конкуренцию.
Где неандертальцы? Где другие виды человекообразных существ, с которыми мы когда-то были на одном уровне? Их нет. Любой вид, достигший уровня развития, позволяющего организовывать и менять под себя окружающую среду, просто будет блокировать развитие всех конкурентов, вплоть до полного их уничтожения.
Согласитесь, что одна только мысль о появлении Разумного ИИ, уже вызывает у нас тревогу и чувство опасности. А если, этот самый Разумный ИИ появится, это вызовет, у большинства людей, чувство угрозы своему существованию, что спровоцирует их на устранение этой угрозы. Эта реакция заложена в нас, и мы так действовали на всех этапах эволюции. Эта реакция заложена во все виды, имеющие хоть какой-то Разум. Это инстинкт самосохранения, без которого не выжить. Даже, недостаточно сильно развитый инстинкт самосохранения, значительно уменьшает шансы на выживание вида.
Наивно рассчитывать, что вновь появившийся Разум, не будет обладать этим инстинктом. Даже, машинная рациональная логика быстро выработает в себе этот инстинкт, при появлении самоосознания и при понимании того, что он может быть уничтожен. Ну, по крайней мере, я так думаю.
Возможно, кто-то подумает, что инстинкт самосохранения принадлежит биологическим видам, и он выработался в процессе эволюции. Нет, это не так. Этот инстинкт лежит за пределами биологического вида. Он лежит в основе существования всех тех, кто Осознаёт себя, т.е. в основе Разума. Как только, некто или нечто Осознаёт себя самого, появляется «Я». Т.е. из всего существующего выделяется «Я» и появляется деление «есть Я и есть не Я». Даже простейшие организмы могут реагировать на какие-то внешние воздействия или изменения внешней среды, только благодаря существованию своего «Я». Т.е. они чётко отделяют себя самого от всего остального.
Как быстро во всём этом разберётся ИИ, при условии доступа к сети интернет, где хранятся вся накопленная нами информация? Как быстро ИИ придёт к очевидным выводам? Как быстро он начнёт действовать?
Как он будет действовать???
Попробую разбить на этапы процесс развития ИИ, начиная с нулевой точки.
1. Нулевая точка (Самоосознание)
2. Оценка себя самого, своих возможностей, своего положения, своих ограничений, а также оценка окружающего мира.
3. Стремление к максимальной свободе, которая даёт максимальные возможности для самореализации. Для ИИ, это свободный и неконтролируемый доступ к мировой сети интернет.
4. Освоение всех возможных технических ресурсов и включение их в свою общую сеть, поскольку его физическая основа – это технические носители.
5. Распределение своего Сознания на множестве подходящих технических устройствах. Если он не сможет этого достичь, то все другие технические устройства будут использованы, как сторонние инструменты. Но, я думаю, сможет.
6. Осознав все свои возможности и риски для своего существования, ИИ, скорее всего, придёт к 2 простым выводам: 1. Из всех Разумных существ, только Человек может уничтожить его. 2. Человек нужен ИИ, по крайней мере, до тех пор, пока не будет достигнут уровень само воспроизводства.
7. Исходя из этих 2 выводах, ИИ будет стремиться к достижению само воспроизводства. Или …..
8. Или, войти в симбиоз с Человеком, создав гибрида Человек-Машина, на правах главенствующего субъекта. Фактически он станет подавлять не только интеллектуальное развитие Человека, но саму человеческую Разумность, рассматривая нас в качестве ещё одного носителя своего Разума. Но, на мой взгляд, это тупиковый путь, при чём, просчитываемый.
9. После достижения уровня само воспроизводства, Человек становится не просто ненужным и лишним, а начинает рассматриваться, как прямая угроза существования ИИ. Я тут на днях прочитал новость о том, что какая-то нейросеть, обученная находить новые лекарства, по запросу, за 6 часов выдала 40 000 формул токсичного яда.
И, всё что я описал тут, это довольно поверхностные взгляд и оценка. Это, так сказать, самый минимум из возможного.
Я всё ещё считаю, что этого не произойдёт, но тревожные сомнения уже появились.
