Наверное, у любого читателя возникает соблазн заглянуть в конец захватывающего детектива и узнать, что там натворил дворецкий. А что уж говорить о желании узнать будущее человечества. И вот, кажется, у нас появилась возможность если не заглянуть в конец истории, то по крайней мере узнать, как выглядит промежуточный финиш. Как будет выглядеть мир, допустим, через 10 лет? Некоторое время назад группа ученых опубликовала исследование под заголовком "Предсказание будущего искусственного интеллекта (ИИ) с помощью искусственного интеллекта..." Статья довольно живо обсуждалась в научных пабликах. О чем там речь? Ученые "накормили" искусственный интеллект научными статьями о нем самом. Причем, статьи были собраны за несколько прошедших десятилетий. А потом попросили предсказать, как будет развиваться в дальнейшем изучение ИИ - по каким темам и направлениями станут писать научные работы. Фокус был в том, что машинному разуму предлагали заглянуть в то будущее, которое для нас было уже прошлым. То есть ученые могли сравнить прогноз и реальную картину последнего времени. Предсказание оказалось точным на 99 процентов! Горячие головы сделали вывод, что искусственный интеллект способен точно предсказывать не только собственное будущее, но и будущее человечества?!
Так это или нет - об этом мы поговорили с профессором, членом-корреспондентом РАН, руководителем отделения ФИЦ ИУ РАН, заведующим кафедрой МФТИ, директором по науке Smart Engines Владимиром Арлазаровым. Он один из создателей шахматной программы "Каисса", которая выиграла первый чемпионат мира среди компьютеров.
Почему алгоритм не может угадать кто станет чемпионом мира по футболу
- Сегодня искусственный интеллект многие вещи делает лучше человека. Например, алгоритмы ставят диагноз на основе анализа рентгеновских снимков точнее живого врача. А нейросеть распознает лица или документы эффективнее человека. Поэтому принципиально я не вижу противоречия в том, чтобы компьютер и будущее предсказывал лучше человека, - говорит Владимир Львович. - Однако, есть два очень важных условия. Во-первых, мы должны сформулировать машинному разуму не абстрактную (какое будущее нас ожидает?) а предельно конкретную задачу - что именно мы хотим спрогнозировать? А во-вторых, (и это самое главное) необходимо заложить в машину данные, от которых зависит ответ на вопрос. А это невозможно, если мы говорим о таких вещах, как прогнозирование будущего человечества.
- Почему? Допустим, нас интересует конкретный вопрос: будет ядерная война или нет? Мы накормим ИИ учебниками истории и политэкономики, загрузим высказывания государственных деятелей и разные теории общественного развития. Глядишь, электронный мозг нам что-то посчитает.
- Да, посчитает. Но какое отношение это "что-то" будет иметь к реальности? Вот простой пример: накануне чемпионата мира по футболу-2022 Оксфордская математическая модель сделала прогноз: в финале будут играть сборные Бельгии и Бразилии. В итоге бразильцы вылетели в четвертьфинале, а бельгийцы - одна из сильнейших команд мира - даже не вышли из группы. Это позор для математиков? Ведь задача с формальной точки зрения была предельно простая: определить какая из 32 команд выиграет чемпионат. Какие данные считали при этом? Наверное, результативность игроков, опыт тренеров, результаты предыдущих матчей, историю личных встречи и так далее. Но кто мог подумать, что Де Брюйне за два дня развалит команду (лидер бельгийцев накануне турнира в интервью сказал, что у Бельгии нет шансов на победу, потому что команда очень возрастная. Эти слова были болезненно восприняты партнерами Де Брюйне и дело дошло даже до драки между игроками - авт). Какая муха укусила Де Брюйне? Почему он это сказал? Возможно ли было просчитать такое развитие событий? Поэтому я скептически отношусь к такого рода прогнозам - не потому что не верю в возможности машины, а потому что не верю в возможности человека заложить те данные, от которых зависит верный ответ.
Ленин прогнозировал, что революция произойдет не при жизни его поколения
- А как же исследование, от которого мы отталкивались. Машинный разум сумел же предсказать, как будет развиваться наука?
- Обработка статистических данных - это другое дело, такие вещи машина делает в сто раз лучше человека. Что посчитал ИИ? По каким направлениям будет больше исследований, какие тенденции и прогнозы. Это обычный анализ данных, тут ничего революционного нет. А взять ваш вопрос с ядерной войной. Вот представьте: в ядерном клубе то ли 8, то ли 9 государств. Во главе каждой ядерной страны стоит президент, который, как и все мы, живой человек со своими слабостями и со своим представлением об окружающем мире. У каждого президента сотни советников и помощников. Один говорит одно, другой - другое. В каждой стране разыгрываются сложнейшие сценарии внутриполитической борьбы. Интрига на интриге. Никому нельзя верить... Вот скажите, кто в такой ситуации может заложить в машину все данные, от которых зависит верный прогноз? Я думаю, что это будет такая же чепуха, как и с чемпионатом мира.
- Видимо, и у людей такая же проблема. Мы знаем ограниченное количество фактов, остальную картину достраиваем в меру своего разумения. Поэтому и Ленин за несколько лет до революции утверждал, что она произойдет не при его жизни. И развал СССР ни одна из разведок не могла предсказать...
- Конечно! Ведь если нет данных, какая разница - человек или компьютер делает прогноз. Вы можете загрузить в нейросеть хоть все учебники истории, хоть все собрание сочинений человечества. А исход будет зависеть от неучтенной комбинации обстоятельств, о которой мы узнаем когда-нибудь задним числом.
Машины не могут решить за нас вопрос - как жить
- В каких сферах прогнозирование с помощью ИИ возможно?
- Компьютеры замечательно прогнозирует, как будет меняться стоимость ценных бумаг на бирже. Я сейчас даже не представляю, чтобы на бирже в оперативных прогнозах играл человек. По-моему, сейчас играют одни компьютеры. Это в чистом виде прогнозирование, там есть четкая постановка вопроса и огромное количество качественных данных для анализа. Но опять же, алгоритм дает правильный ответ только в 99 случаях из 100. А если мы говорим о прогнозировании будущего, то человеку всегда нужен единственный, но верный результат. Иначе это может сыграть злую шутку.
- Вы имеете в виду эффект самосбывающегося пророчества? Когда предсказание может изменить ход истории, а потом выяснится, что прогноз был вызван статистической ошибкой или нехваткой данных.
- Да, ведь в прогнозах мы имеем дело со статистической вероятностью, а людей интересует именно конкретный случай. А в конкретных прогнозах наука далеко не всегда точна. Например, в 60-х годах прошлого века прогнозировалось, что термоядерный реактор - неисчерпаемый источник энергии - будет создан через 20 лет. Прошло уже 60, а воз и ныне там. Зато с шахматными программами мы угадали: думали, что через 20 лет после создания "Каиссы" компьютеры обыграют людей. Так примерно и получилось. А вот в области высокотемпературной проводимости (то есть передача энергии без потерь) прогноз тоже оказался неверный. То есть даже в отношении научных явлений, природу которых мы хорошо понимаем, и значимость которых колоссальна, точность прогноза невысока.
- А частная жизнь человека?
- Это к цыганкам. Или к осьминогу Паулю. Машина не сможет решить за нас вопрос, как нам жить. Этот выбор мы должны делать сами.
