Дорога из AGI в ASI:
В какой—то момент мы достигнем ASI-компьютеров с общим интеллектом человеческого уровня. Просто кучка людей и компьютеров, живущих вместе в условиях равенства.
Ну вообще-то нет.
Дело в том, что ASI с идентичным уровнем интеллекта и вычислительными возможностями человека все равно будет иметь значительные преимущества перед людьми.
Оборудование:
Скорость. Нейроны мозга максимальны на частоте около 200 Гц, в то время как современные микропроцессоры (которые намного медленнее, чем они будут, когда мы достигнем ASI) работают на частоте 2 ГГц, или в 10 миллионов раз быстрее, чем наши нейроны. А внутренние коммуникации мозга, которые могут двигаться со скоростью около 120 м/с, ужасно затмеваются способностью компьютера оптически общаться со скоростью света.
Размер и хранение. Мозг замкнут в своем размере формой наших черепов, и он все равно не может стать намного больше, или 120 м/с внутренней связи займет слишком много времени, чтобы добраться от одной структуры мозга к другой. Компьютеры могут расширяться до любого физического размера, позволяя использовать гораздо больше аппаратного обеспечения, гораздо большую рабочую память (ОЗУ) и долговременную память (хранилище на жестком диске), которая имеет гораздо большую емкость и точность, чем наша собственная.
Надежность и долговечность. Это не только воспоминания компьютера, которые были бы более точными. Компьютерные транзисторы более точны, чем биологические нейроны, и они менее склонны к ухудшению (и могут быть отремонтированы или заменены, если они это сделают). Человеческий мозг также легко устает, в то время как компьютеры могут работать без остановки, с максимальной производительностью, 24/7.
Программное обеспечение:
Редактируемость, возможность обновления и более широкая широта возможностей. В отличие от человеческого мозга, компьютерное программное обеспечение может получать обновления и исправления и может быть легко экспериментировать. Обновление также может охватывать области, где человеческий мозг слаб. Людское программное обеспечение зрения выдвинуто, пока своя сложная возможность инженерства довольно низкосортна. Компьютеры могли бы соответствовать программному обеспечению human on vision, но также могли бы стать одинаково оптимизированными в инженерном деле и любой другой области.
Коллективные возможности. Люди сокрушают все другие виды в построении огромного коллективного разума. Начиная с развития языка и формирования больших, плотных сообществ, продвигаясь вперед с помощью изобретений письма и печати, а теперь усиливаясь с помощью таких инструментов, как интернет, коллективный разум человечества является одной из главных причин, по которой мы смогли так далеко опередить все другие виды. И компьютеры будут намного лучше справляться с этим, чем мы. Всемирная сеть искусственного интеллекта, работающая под управлением определенной программы, может регулярно синхронизироваться с самой собой, так что все, чему научился один компьютер, будет немедленно загружено на все другие компьютеры. Группа также может взять на себя одну цель как единое целое, потому что не обязательно будут существовать несогласные мнения и мотивации и личные интересы, как у нас есть в человеческой популяции.10
ИИ, который, скорее всего, доберется до ASI, будучи запрограммированным на самосовершенствование, не будет рассматривать “человеческий интеллект” как некую важную веху-это всего лишь релевантный маркер с нашей точки зрения-и не будет иметь никаких причин “останавливаться” на нашем уровне. А учитывая преимущества перед нами, которыми обладал бы даже человеческий эквивалент интеллекта ASI, вполне очевидно, что он поразил бы человеческий интеллект лишь на короткое мгновение, прежде чем устремиться вперед к царству высшего человеческого интеллекта.
Это может выбить дерьмо из нас, когда это произойдет. Причина заключается в том, что с нашей точки зрения, а) хотя интеллект различных видов животных варьируется, основная характеристика, которую мы знаем об интеллекте любого животного, заключается в том, что он намного ниже, чем наш, и Б) мы рассматриваем самых умных людей как намного умнее, чем самые тупые люди.
Таким образом, когда ИИ увеличится в интеллекте по отношению к нам, мы увидим, что он просто становится умнее, для животного. Затем, когда он достигнет самых низких возможностей человечества-Ник Бостром использует термин "деревенский идиот “—мы будем говорить:" Ого, это как тупой человек. Мило!"Единственная вещь, в большом спектре интеллекта, все люди, от деревенского идиота до Эйнштейна, находятся в очень небольшом диапазоне—так что сразу после достижения уровня деревенского идиота и объявления его ASI, он внезапно будет умнее Эйнштейна, и мы не будем знать, что ударило нас.
И что же происходит...после этого?
Продолжение следует...