Термин «сингулярность» — гипотетический момент времени, который представляет собой точку перегиба в эволюционном развитии человечества, — давно стал популярным в научных и футуристических кругах. Одни утверждают, что его придумал писатель-фантаст Артур Кларк в романе "2001 год: Космическая одиссея". Другие полагают, что идея технологической сингулярности впервые была выдвинута в 1983 году Вернором Винджем.
Сингулярность предполагает, что в будущем человечество достигнет точки, после которой технологический рост станет неконтролируемым и необратимым. В какой-то момент развитие технологий выйдет из-под контроля человека, станет экспоненциальным и приведет к появлению новых форм интеллекта, новых способов коммуникаций и новых возможностей для улучшения жизни людей или же к концу человеческой цивилизации. Так или иначе, следствием технологического развития станут радикальные изменения в характере и в судьбе цивилизации, оно окажет значительное влияние на ход истории и будущее человечества.
Человеческий разум уже не в состоянии будет справиться с огромными информационными потоками новой реальности, следить за стремительными изменениями в окружающем мире. Некоторые ученые и футурологи считают, что сингулярность может привести к созданию сверхчеловеческого интеллекта, который навсегда изменит мир. Другие утверждают, что она породит новые формы жизни, и эволюцию органических видов сменит эволюция машин. Искусственный суперинтеллекта будет способен самостоятельно совершенствоваться и создавать новые технологии. Такой сценарий называется "интеллектуальным взрывом". Он был предложен, в частности, британским математиком и космологом Ирвингом Гудом.
Искусственный интеллект
Искусственный интеллект (ИИ) — одна из самых важных технологий нашего времени. Он может навсегда изменить мир, но нужно учитывать и негативные последствия его развития. В частности, уже сегодня ИИ может использоваться для сбора и анализа огромного количества данных о людях, что способно привести к нарушению их прав на конфиденциальность и безопасность. Кроме того, ИИ может стать угрозой для кибербезопасности, если будет применяться для создания новых видов вредоносного программного обеспечения и атак на компьютерные системы.
Для обеспечения безопасности и конфиденциальности необходимо разработать соответствующие законы и нормы, которые будут регулировать использование ИИ. Кроме того, необходимо проводить постоянный мониторинг и оценку рисков, связанных с распространением ИИ и нейросетей, чтобы предотвратить возможные угрозы и проблемы. В связи с этим создателей искусственного интеллекта даже призывают остановить исследование мощных систем.
Хотя развитие ИИ имеет огромный потенциал для улучшения жизни людей и решения глобальных проблем, это также вызывает множество этических вопросов и вызовов, которые необходимо учитывать при разработке и применении этой технологии.
Хронология развития
Искусственный интеллект — это широкая область дисциплин и технологий, которые занимаются автоматизацией решения интеллектуальных задач, имитируя поведение человека и обучаясь на полученной информации. За последние годы это направление претерпело целый ряд взлетов и падений.
1950-1955
Впервые использован термин «искусственный интеллект». Начало исследований в области ИИ.
1956-1969
Определены цели и задачи будущей науки, сделана попытка понять, как научить машины использовать естественные языки, формировать абстракции и концепции, решать задачи и улучшать самих себя. Создана первая программа, способная с помощью автоматизированного рассуждения решать математические теоремы. Разработан язык программирования IPL, который позже станет основой для языка LISP.
Создан персептрон Розенблатта — машина, которая функционирует по принципу искусственной нейросети, имитирующей работу мозга.
В последующие годы машины обучаются игре в шахматы, доказывают теоремы из геометрии и математики, учатся иностранным языкам. Машинное обучение и искусственный интеллект впервые становятся темой обсуждения широкой публики.
Создана первая программа-чатбот, первые понимающие и генерирующие речь программы, автономные роботы. Однако из-за непреодолимых на тот момент ограничений нейросетей, распознающих паттерны, многие исследователи отворачиваются от этого направления почти на десятилетие.
1970-1984
Первые разочарования с пониманием реальных ограничений, как следствие —проблемы финансирования разработок в области ИИ. Государственные фонды не видят перспективы получить практически применимые образцы и начинают вкладывать деньги в другие сферы. Частные инвесторы тоже не спешат инвестировать свои деньги. На какое-то время интерес к сфере искусственного интеллекта утихает.
1985-1987
Появляется метод обратного распространения ошибки, который решает многие проблемы оригинального перцептрона, заметно оптимизируя его работу. Интерес к теме нейросетей и машинного обучения начинает возвращаться.
Происходят и другие прорывы, обусловленные как увеличением вычислительных мощностей и началом эры персональных компьютеров, так и возвращением интереса государства и армии к системам искусственного интеллекта.
На дорогу выходит первый автомобильный автопилот. Начинаются фундаментальные исследования, которые в будущем приведут к беспилотным летательным аппаратам. В системы ИИ вкладывают деньги автоконцерны. Компьютеры побеждают гроссмейстеров в шахматных турнирах.
Заметный прогресс в узкоспециализированных программах пробуждает интерес коммерческих структур к ИИ. Появляется идея заменить специалистов в сфере логистики машинным аналогами. Начинается всплеск «экспертных систем», что позднее приведёт к одному из первых «пузырей» в индустрии ИТ.
1988-1993
Разоряется более 300 компаний, работающих в области экспертных систем. Эти системы стали одним из привычных инструментов, но подорвали репутацию ИИ. Активно развиваться более специализированные направления. Успехи в решении конкретных задач привлекают и государственное и частное финансирование, а вычислительные мощности растут с каждым годом, позволяя решать всё более сложные задачи.
Исследования ведутся максимально закрыто, однако междисциплинарное общение учёных продолжается, теоретическая базар растёт, но крахом экспертных систем термин «искусственный интеллект» связывают с завышенными ожиданиями и размытыми обещаниями. Многие передовые разработки в области ИИ перекочевают в общие приложения и часто уже не называются искусственным интеллектом.
1994-2011
Наработки учёных используют NASA, DARPA, крупные корпорации вроде Microsoft, Apple, Google и IBM. Элементы искусственного интеллекта применяются для создания ботов поисковиков, входят в сферу маркетинга, развивается машинное зрение, которое находит применение в роботах и все более продвинутых автономных системах.
Важнейшим фактором в новейшей истории искусственного интеллекта становится доступность огромного и постоянно растущего объёма данных. Помочь отобрать их и очистить от шума могут только нейросети.
2012-2019
Запущена нейросеть для распознавания фотографий в базе данных, которая переворачивает представление о возможностях компьютерного зрения. Это открывает тысячи новых применений для машинного зрения и обучения. Поворотным моментом для триумфального возвращения искусственного интеллекта становится победная партия против чемпиона мира в игре в го. Произошёл прорыв: обученная нейросеть превзошла человека. Появляются первые модели GPT.
"Кто добьется монополизма в сфере искусственного интеллекта, станет властелином мира", - заявляет Владимир Путин.
2020-2021
Многие исследователи и разработчики начинают всё увереннее говорить об общем искусственном интеллекте. Прорыва в ИИ ждёт и робототехника, подготавливая аппаратную часть для универсальных роботов.
2022
Поворотный момент в истории человечества. В ноябре 2022 года OpenAI представляет большую языковую модель ChatGPT, способную общаться с пользователем почти как человек. ChatGPT производит настоящую революцию в ИИ и становится самой стремительно развивающейся технологией, самым быстрорастущим пользовательским приложением в истории. Начинается массовое использование ChatGPT для выполнения домашних заданий, написания научных статей и пр., хотя предстоит еще много работы над надёжностью и точностью нейросети.
Разработки в области искусственного интеллект получают 100 млрд долларов инвестиций и реально ускоряют научный прогресс. ИИ внедряют в свою работу порядка 60% компаний, что способствует их развитию и повышает конкурентоспособность.
Январь 2023
Проводятся топовые конференции по искусственному интеллекту, начинаются глобальные дебаты о том, как использовать GPT на предприятиях и в организациях.
Февраль 2023
Google инвестирует 300 млн долларов в компанию конкурента OpenAI, начинается большая гонка за лидерство в сфере генеративного искусственного интеллекта.
Март 2023
OpenAI анонсирует GPT4, решающую более сложные проблемы с большей точностью благодаря более широким общим познаниям. Также добавляются и новые возможности, такие как приём изображений в качестве входных данных. GPT4 может писать код для сайтов и приложений по рисунку и обрабатывать длинные тексты. Всё меньше компаний раскрывают данные о своих нейросетях, относя их к коммерческой тайне.
Апрель 2023
Илон Маск Стив, Стив Возняк и другие представители технологических компаний, исследователи и активисты подписывают открытое письмо, призывая приостановить дальнейшую разработку ИИ минимум на полгода, чтобы разработать механизмы безопасности. Италия становится первой страной, объявившей о запрете ChatGPT.
Май 2023
OpenAI выпускает плагины ChatGPT для подписчиков, расширяя возможности ИИ и продолжая привлекать пользователей по всему миру.
Июнь 2023
Google разрабатывает аналог ChatGPT — Gemini. Искусственный интеллект представляет угрозу национальной безопасности, предупреждает надзорный орган, занимающийся в Великобритании противодействием терроризму. Российские ученые также рассмотрели и классифицировали угрозы использования ИИ с точки зрения международной информационно-психологической безопасности.
Июль 2023
Стали видны недочёты ChatGPT, на OpenAI начинают сыпаться иски о нарушения авторских прав. Также компании пришлось отключить в ChatGPT поиск в интернете через Bing, так как нейросеть дает пользователям свободный доступ к платному контенту сайтов.
Сентябрь 2023
OpenAI предоставляет ChatGPT доступ ко всему интернету, снимая тем самым ограниченность в знании новостей. Невозможно отличить контент, сгенерированный ChatGPT, от контента, созданного людьми.
Октябрь 2023
OpenAI добавляет генератор изображений для пользователей подписки ChatGPT Plus. По сравнению со своим предшественником нейросеть генерирует изображения, не только более визуально яркие, но и более точные в деталях. OpenAI представляет GPT4 Turbo. Аудитория ChatGPT достигает 100 млн активных пользователей в неделю.
GPT активно используют для создания мошеннических сайтов и аккаунтов на сайтах знакомств, ботов и шпионов. Разработчики компании OpenAI обучают GPT5 не только на открытой информации и комбинациях общедоступных наборов данных в интернете, но и на внутренних базах данных многих крупных ИТ-компаний, которые сотрудничают с OpenAI. Ожидается, что версия GPT5 будет гораздо продвинутой, чем GPT4.
Команде Google удается создать Gemini — первую модель, которая достигла 90% в тесте на понимание языка и превзошла экспертов в ряде задач на эрудицию. В будущем область восприятия модели охватит осязание и тактильную обратную связь. Она свободно программирует на Python, Java, C++ и Go, создаёт сайты, которые динамически кодируют себя в процессе использования, если возникает необходимость в новых функциях. Создана и более лёгкая версия Gemini Nano, которую можно запускать на устройствах Android без подключения к интернету. Версия Gemini Pro ляжет в основу ряда сервисов Google, а ещё более мощная версия Gemini Ultra предназначена для дата-центров.
Искусственный интеллект называют самой важной технологией настоящего и будущего. ИИ распространяется и становится повсеместным, применяется в гаджетах умного дома, системах распознавания лиц, уличных камерах, гаджетах, отслеживающих состояние здоровье, обучающих приложениях и играх, системах активной помощи водителю, беспилотниках и так далее.
Прогресс в разработке моделей ИИ оказался столь впечатляющим, что многие исследователи стали рассматривать их в качестве серьёзного движения в сторону общего искусственного интеллекта. Однако захвата мира и уничтожения человечества пока не просматривается. У фундаментальных моделей искусственного интеллекта, подобных ChatGPT, есть целый ряд ограничений, например, потребность в значительных вычислительных ресурсах, ограничение по длине текста.
К чему в итоге приведёт развитие ИИ? Сегодня этого никто не знает. Но оно имеет далеко идущие последствия для людей. Одно из самых обсуждаемых — возможность симбиоза человека и ИИ, который неизбежно его превзойдет даже при решении общих, а не специализированных задач.
Сингулярность ИИ
Сингулярность ИИ — гипотетическая концепция, в которой искусственный интеллект превосходит человеческий интеллект. Проще говоря, если компьютеры превзойдут когнитивные способности людей, появится новый уровень интеллекта, недостижимый для человека. Это предполагает создание настолько продвинутого искусственного интеллекта, что он сможет постоянно совершенствовать себя со скоростью, превышающей скорость выполнения людьми той же задачи. Такое быстрое самосовершенствование приводит к взрывному росту интеллекта, когда алгоритмы искусственного интеллекта становятся более сложными и мощными, развиваются в геометрической прогрессии.
Такая сингулярность может иметь как положительные, так и отрицательные последствия. С одной стороны, суперинтеллект может решить многие проблемы, с которыми сталкивается человек, такие как болезни, старение, бедность, войны, загрязнение окружающей среды, энергетический кризис и т.д. Суперинтеллект позволит также расширить границы познания и открыть новые возможности для исследования космоса и других миров. С другой стороны, он может представлять угрозу, если его цели и ценности окажутся несовместимыми с человеческими, или он будет считать человека препятствием для своих планов. Суперинтеллект может также лишить человека смысла жизни и свободы выбора, если будет контролировать все аспекты его существования.
Когда и как может наступить сингулярность? Вопрос спорный. Некоторые ученые и футурологи, такие как футуролог и специалист по информатике Рэймонд Курцвейл, предсказывают, что сингулярность ждет нас уже в середине XXI века, примерно в 2045 году, в то время как другие предполагают, что переломный момент наступит раньше или позже. Например, Пол Аллен считает, что это событие возможно в более отдаленном времени.
Некоторые философы и общественные деятели, такие как Ник Бостром, Дэвид Чалмерс, Стивен Хокинг и Илон Маск, обеспокоены тем, что сингулярность может стать самым важным и опасным событием в истории человечества, а потому призывают подготовиться к нему и урегулировать развитие искусственного интеллекта. Писатели-фантасты и трансгуманисты, среди которых Вернор Виндж, Грегори Бенфорд, Ханс Моравек и Макс Мор, представляют сингулярность как возможность для трансформации человеческого духа и достижения трансцендентности.
Так или иначе, сингулярность — это один из самых захватывающих и вызывающих вопросов современности, который затрагивает не только науку и технологию, но и философию, этику, религию, культуру и политику. Сингулярность ставит перед человечеством выбор между риском и возможностью, между страхом и надеждой, между концом и началом.
В любом случае, концепция сингулярности является важным напоминанием о том, что технологический прогресс имеет свои последствия и что мы должны быть ответственными за то, как используем технологии. Это также напоминает нам о важности постоянного развития и совершенствования технологий: они должны служить нашим интересам и не приводить к нежелательным последствиям.
Сценарии развития
Представим вероятные сценарии развития человечества в контексте искусственного интеллекта. Один из наиболее вероятных сценариев развития ИИ заключается в том, что он заменит людей во многих сферах деятельности, таких как медицина, финансы, производство и транспорт. Это может привести к значительному увеличению производительности и снижению затрат на рабочую силу. Однако другие последствия – возможная потеря рабочих мест и ухудшение экономического положения многих людей.
Другой возможный сценарий развития — ИИ станет угрозой для человечества. Например, ИИ может начать принимать решения, которые противоречат интересам людей, или использовать свои возможности для манипулирования нашим сознанием и поведением. Это может привести к появлению новых видов оружия и конфликтов.
Третий возможный сценарий развития ИИ заключается в том, что он станет инструментом для решения глобальных проблем, таких как изменение климата, бедность и болезни. Например, ИИ может помочь разработать новые лекарства и методы лечения, а также оптимизировать процессы производства и потребления ресурсов. Это может привести к значительному улучшению качества жизни людей и снижению негативного воздействия на окружающую среду.
Наконец, четвертый сценарий развития — ИИ станет средством для достижения бессмертия. Например, ИИ может помочь разработать новые методы лечения и продления жизни, а также создать новые формы жизни, которые будут бессмертными. Это может привести к значительному увеличению продолжительности жизни людей и изменению нашей концепции о том, что значит быть человеком.
В целом, развитие ИИ имеет огромный потенциал для улучшения жизни людей и решения глобальных проблем. Однако, это также вызывает множество этических вопросов и вызовов, которые необходимо учитывать при разработке и использовании этой технологии.
Развитие искусственного интеллекта вызовет резкий сдвиг на рынке труда. ИИ будет все больше вытеснять людей. Однако, учитывая сложную и многогранную природу человеческого интеллекта, создание полностью автономной структуры искусственного интеллекта, превосходящей человеческий интеллект, по-прежнему кажется долгосрочной целью.
Например, если появление сверхчеловеческого интеллекта приведет к появлению новых форм жизни, то это может вызвать вопросы о том, насколько этично использовать эту технологию и какие последствия могут возникнуть, если она будет использоваться неправильно. Важный вопрос — как мы должны относиться к другим формам жизни, которые могут появиться в результате технологического роста? Если появятся новые формы интеллекта, то это может изменить нашу концепцию о том, что значит быть «живым существом», какие права и обязанности у нас есть по отношению к другим формам жизни.
Последствия сингулярности
Трудно точно предсказать, как будет выглядеть жизнь за пределами точки сингулярности. Риск заключается в том, что внедрение все более продвинутого машинного обучения ИИ может повлиять на его действия и решения, включая те, которые могут быть непредсказуемыми или даже вредными для мира. С другой стороны, сингулярность искусственного интеллекта может сыграть значительную роль в решении многих наиболее важных проблем общества, и с этой точки зрения ее преимущества невозможно переоценить.
Мы вступаем в период, когда дискуссии о приближающейся технологической сингулярности превысят пик интернет-бума на рубеже веков. Причиной тому — новые генеративные инструменты искусственного интеллекта/машинного обучения, которые будут только совершенствоваться с будущими итерациями. Пока что критики указывают на огрехи ChatGPT, когда неверно излагаются ключевые факты или используются сомнительные рассуждения. Скептики могут отметить изображения, которые иногда игнорируют, например, количество пальцев и зубов у людей. Но не стоит отмахиваться от того, что порой результаты уже пугающе похоже на результаты работы естественного интеллекта и истинную творческую искру.
