Мы переживаем эпоху бурного развития искусственного интеллекта. Масштабы этого явления ещё трудно оценить по-настоящему. Ясно одно: эта технология уже сейчас затрагивает самые широкие области нашей жизни, и её влияние будет только увеличиваться. Но возникает закономерный вопрос: не случится ли так, что эта технология выйдет из под нашего контроля?
Впервые эту проблему громко озвучил человек, который по праву считается «отцом» искусственного интеллекта: английский учёный Алан Тьюринг. В 1951 году Тьюринг в своей статье написал: «Как только метод машинного мышления заработает, не потребуется много времени, чтобы превзойти наши слабые силы. ... Следовательно, на каком-то этапе мы должны ожидать, что машины возьмут на себя управление...». А ведь это пишет человек, который стоял у истоков современной компьютерной науки: «универсальная машина Тьюринга» является математической моделью всех современных компьютеров. Учёный также создал «тест Тьюринга» для определения способности машины имитировать человеческую речь. Именно эта работа стала основой современного искусственного интеллекта. В общем, как это нередко бывает с гениями: сам придумал, и сам же предупредил о возможных проблемах. Напоминает нашего академика Сахарова, который сперва изобрёл термоядерный синтез, а потом всерьёз увлёкся борьбой за мир и даже получил за это Нобелевскую премию мира.
В 1983 году возможные проблемы с ИИ были чётко сформулированы американским писателем-фантастом Вернором Винджем. Именно с его лёгкой руки появился термин «технологическая сингулярность». По словам Винджа: «Скоро мы создадим разум, превосходящий наш собственный. Когда это произойдет, человеческая история достигнет своего рода сингулярности, интеллектуального перехода,… и мир выйдет далеко за пределы нашего понимания». Всемирно известный футуролог Джеймс Мартин сформулировал проблему ещё сочнее: «Сингулярность — это перерыв в человеческой эволюции, который будет вызван ошеломляющей скоростью эволюции технологической».
Очевидно, что эти опасения далеко не беспочвенны. Мы шаг за шагом теряем вкус к умственным усилиям. Вспомним, сколь много различных сложных вычислений каждый из нас делал в прошлом. А ведь прежде нужно было ещё разобраться с соответствующими правилами и формулами. Мы считали в уме, в столбик, на логарифмической линейке, с помощью математических таблиц. Посчитать быстро и правильно — это было трудно, в этом был вызов, здесь мы находили чувства удовлетворения или разочарования, в зависимости от результата. Мы могли ощущать прогресс и соревноваться друг с другом. А что теперь? Несколько кликов пальцами по экрану или клавиатуре, и наш «железно-пластмассовый друг» всё сделает за нас. Причём сделает это лучше нас, сделает одинаково для каждого из нас. В этом ещё одна проблема: если машина каждый раз делает что-то лучше нас, то зачем нам тогда это делать самим? А если машина сможет всё делать лучше нас, не остановит ли это наше развитие согласно сочной формулировке Джеймса Мартина? Здесь вопросов больше, чем ответов.
Что такое «технологическая сингулярность» стало понятно благодаря Вернору Виджу, а что такое «сингулярность» вообще? В переводе с английского это означает состояние быть единственным в своём роде, уникальным, необычным. Также сущестует просто огромное количество научных определений сингулярности в зависимости от разных научных дисциплин.
Но далеко не все учёные считают сингулярность неизбежной. Ярким представителем такого подхода является видный специалист по искусственному интеллекту Мауро Валатти из университета Хаддерсфилда, Англия. Он обращает внимание на то, что Вселенная, согласно нашим современным представлениям о её физической природе, действует по хаотичным и непредсказуемым законам. И именно это стоит на страже интересов людей.
Для того, чтобы нас превзойти, ИИ должен уметь лучше нас решать проблемы, а это означает умение планировать, то есть прогнозировать будущее. Но на этом пути ИИ неизбежно наткнётся на ограничение самой Вселенной. Например, можно загрузить в ИИ все прошлые данные о погоде, все расчёты, и все равно он не сможет предсказать погоду в конкретный день и час в будущем. Вселенная всё равно осанется неизмеримо сложнее любого ИИ. Таким образом, у ИИ всегда будет предел, за который он не сможет выйти, и поэтому люди, по расчётам учёного, смогут его контролировать.
Обнадёживает, что текущий уровень развития искусственного интеллекта находится очень далеко от способности создавать проблемы подобного рода. Поэтому сейчас самое время проявить ответственность, чтобы исключить такие риски в будущем.