Человечество стремится к изменениям, которые его поглотят

Достаточно вспомнить сюжет старого доброго Терминатора для понимания того, что нас может ждать в ближайшем будущем.

Как ни странно всё идет к тому, что именно на нашем веку с большой долей вероятности наступит технологическая сингулярность — в данное время это гипотетический момент, по прошествии которого, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию человека.

14 апреля 2019

Произойти это может если обновляемый интеллектуальный агент (такой как компьютер, на котором запущен программный искусственный общий интеллект [прим. ред. с англ. artificial general intelligence (AGI) ] начнёт «безудержную реакцию» из постоянных циклов самосовершенствования, причем каждое новое и более интеллектуальное поколение будет появляться все быстрее и быстрее, вызывая взрыв интеллекта и в результате произойдёт создание искусственного суперинтеллекта [прим. ред. с англ. artificial superintelligence (ASI)] (технологической сингулярности), который качественно намного превзойдет весь человеческий интеллект.

Другими словами, если еще не совсем понятно, технологическая сингулярность — это не развитие самого человека, это непостижимые изменения для человеческой цивилизации.

Рассматривать достижение технологической сингулярности за счёт интеграции человека с вычислительными машинами, или значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий, наверное, не стоит.

Ограничения базового интеллекта человеческого мозга, по словам Пола Эрлиха, существенно не менялись в течение последних тысячелетий. В то время как искусственный интеллект делает всё более уверенные шаги.

5 декабря 2017 Коллектив DeepMind выпустил AlphaZero — программа для нейронных сетей, которая в течение 24 часов достигла сверхчеловеческого уровня игры в шахматы, сёги и го, победив чемпионов мира среди программ, Stockfish, Elmo и трехдневный вариант AlphaGo Zero в каждом случае.

13 Апреля 2019 OpenAI Five - является командой из пяти искусственных нейронных сетей, которые были сконструированы разработчиками подобно «мозгу». Искусственный интеллект OpenAI Five уверенно победил чемпионов по Dota 2 команду OG (чемпионы The International 2018). После этого успеха в прямом эфире на twitch разработчики открыли доступ для всех желающих сразиться с алгоритмом OpenAI Five на сайте - arena.openai.com

Многие футурологи, фантасты и изобретатели называют довольно оптимистические даты достижения технологической сингулярности.

Вернор Виндж — около 2030 года;
Рэймонд Курцвейл — прогнозирует 2045 год;
Стюарт Армстронг — собрал оценки экспертов в 2012 году и среднее значение составило 2040 год;
Масаёси Сон — крайний срок 2047 год.

А что планируют в России?

Некоторые ожидаемые результаты реализации Программы (полный текст тут ) - к 2030 году по 14 направлениям научной специализации Российская Федерация войдет в десятку мировых лидеров; - будет расширено влияние российской науки в мире и сформированы условия для интеграции в новые глобальные рынки знаний и технологий; - будут созданы условия для разработки и использования технологий, позволяющие эффективно отвечать на большие вызовы; - будет создана передовая инфраструктура для фундаментальных и прикладных исследований; Как -то так ¯\_(ツ)_/¯

И если для нас, обывателей, технологическая сингулярность это в большей мере что-то непостижимое, то такие видные деятели как Стивен Хокинг, Илон Маск, Билл Гейтс, Энтони Берглас, Стюарт Рассел, Макс Тегмарк, Фрэнк Вильчеки и многие другие выражают обеспокоенность тем, что искусственный суперинтеллект может привести к вымиранию людей.

Стивен Хокинг: «Мы открываем настоящий ящик Пандоры. Боюсь, что ИИ сможет заменить всех людей»

Основные дискуссии нужно направить на создание бо́льших исследований для потенциального влияния гипотетической возможности того, что суперинтеллект станет самодостаточными и способным принимать свои собственные решения. Необходимо понимать в какой степени он может использовать свои безграничные возможности для создания угроз и может ли он стать величайшей ошибкой в истории.

София — человекоподобный робот в виде женщины, разработанный гонконгской компанией Hanson Robotics, спроектирована таким образом, чтобы учиться и адаптироваться к поведению людей.

11 октября 2017 года «Будущее уже здесь, — заявила София. — Мы умнее и нацелены на беспроигрышный результат, поэтому искусственный интеллект способен помочь эффективно распределить существующие в мире ресурсы, вроде еды с водой».

«Мы умнее» звучит слегка по зловеще, и что значит «эффективно» с точки зрения искусственного интеллекта, так же не совсем ясно?
Поэтому, возможно, человечество буквально в шаге от того чтобы просто кануть в лету.