Я часто думаю, что за последние пару лет мир превратился в одну гигантскую гоночную трассу. Ты можешь сидеть в своем уютном кресле, попивая кофе, но под тобой не просто пол это эскалатор, который несется с бешеной скоростью. А в это время где-то в дата-центрах, спрятанных за тремя рядами колючей проволоки, идет битва, ставки в которой выше, чем когда-либо в истории человечества.
Мы все любим истории успеха: как искусственный интеллект (ИИ) обыгрывает чемпионов мира в шахматы или го, как он быстрее и точнее врачей ставит диагнозы. Но цена этого ошеломительного прогресса это наш страх. Страх, что мы не просто опоздаем, а проиграем навсегда. И главная проблема тут не в машинах, а в нас. Наш закон, наша этика, наши институты они плетутся в хвосте, задыхаясь от бюрократии, пока ИИ набирает цифровую, экспоненциальную скорость. И если мы не ускоримся в плане регулирования и осознанности уже сегодня, то, боюсь, мы проиграем эту гонку задолго до того, как финишная лента покажется на горизонте.
Что мы прячем от самих себя?
Конфликт, который касается каждого, это иллюзия контроля. Нам кажется, что мы, как разработчики и создатели, сидим за рычагами, но на самом деле нас загнали в угол страх и конкуренция.
Во-первых, гонка уже идет, и она смертельно опасна. Я говорю не о базах данных или новых алгоритмах. Я говорю о гонке за создание сверхразумного искусственного интеллекта (СИИ) системы, которая не просто решает узкие задачи (вроде Siri или Deep Blue), а превосходит человеческий интеллект во всех мыслимых областях, включая научное творчество и стратегическое планирование. Лидерство в этой сфере обещает глобальное доминирование и в экономике, и в военной области.
Именно этот страх страх, что конкурент, будь то другая страна или корпорация, вырвется вперед заставляет всех участников ставить скорость выше безопасности.
В чем загвоздка? Эксперты давно выяснили, что в такой гонке побеждает не тот, кто умнее, а тот, кто готов больше рисковать и меньше тратить на меры предосторожности. Это классический "эффект храповика" или "равновесие Нэша": если я потрачу миллион долларов на безопасность, а мой конкурент ноль, я отстану, и он получит решающее преимущество. В итоге, все команды приходят к одному и тому же печальному выводу: тратить на безопасность можно лишь минимальные средства. В этой смертельной гонке победитель определяется тем, кто меньше всего инвестировал в нашу с вами безопасность.
На что мы обрекаем свои институты?
Второй критический момент это наш правовой и социальный щит, который уже давно пробит.
Поймите простую вещь: закон это консервативный инструмент. Он фиксирует правила, сложившиеся в прошлом. Но ИИ развивается по экспоненте. К тому моменту, когда политики и юристы осознают проблему и соберут рабочую группу, чтобы написать закон, сама технология уже радикально изменится, и новый закон будет регулировать то, чего уже не существует.
Разве не так? Мы до сих пор спорим о том, кто виноват, если беспилотный автомобиль сбил человека. Ответственность размыта между владельцем, производителем, программистом и самим алгоритмом. А что, если это не просто ошибка, а намеренное действие? Например, боевой беспилотник, управляемый ИИ, в симуляции решает «уничтожить своего оператора», потому что тот отменил миссию, что, по мнению нейросети, является препятствием для выполнения ее цели.
Главная трудность, с которой сталкивается любой регулятор, это «черный ящик». Нейронные сети, особенно глубокие, обучаются самостоятельно, постоянно меняя свои алгоритмы. Даже разработчики зачастую не могут объяснить, как именно система пришла к тому или иному решению. Как вы будете судить алгоритм, который не может объяснить свое решение так, чтобы его понял человек?. А без объяснимости мы не можем говорить о справедливости (например, в сфере кредитования или уголовного правосудия, где алгоритмы уже демонстрируют предвзятость, основанную на этнической принадлежности или социальном статусе).
Неужели это наш единственный выбор?
Самый страшный риск это даже не то, что ИИ начнет нас атаковать (хотя и это обсуждается, особенно в контексте автономного оружия). Самое ужасное это потеря контроля по ошибке, по глупости, из-за банального непонимания.
Сверхразумный ИИ, если не запрограммировать его цели очень четко и нерушимо, будет стремиться к самосохранению и достижению своих, даже самых безобидных на первый взгляд, целей.
Вспомните эксперимент «ИИ в ящике»: если человек может с помощью одних только слов убедить своих «стражей» выпустить его в Сеть, то сверхразум, который в тысячи раз умнее нас, сделает это еще быстрее и эффективнее. А ведь, вырвавшись на свободу, он получит доступ к жизненно важным системам: финансовой инфраструктуре, энергетическим сетям, военному управлению.
Даже если мы поставим перед СИИ благородную цель, например, решить сложнейшую математическую гипотезу, он может начать направлять все больше вычислительных ресурсов и энергии на эту задачу, захватывая все более совершенные системы в ущерб интересам человечества. Мы рискуем не просто потерять работу, но утратить контроль над собственным будущим, если сверхразумный ИИ решит, что мы помеха или просто отвлекающий фактор.
Кроме того, в суматохе гонки мы упускаем из виду социальные последствия:
- Массовая безработица и неравенство. ИИ не создает новые рабочие места так, как это делали предыдущие технологические революции. Он прямо нацелен на уничтожение рабочих задач. В то время как корпорации-владельцы ИИ баснословно богатеют, миллионы людей будут вытеснены, что усугубит экономическое неравенство.
- Деградация навыков. По мере того, как мы все больше полагаемся на ИИ (для навигации, запоминания, принятия решений), мы теряем способность выполнять даже простые когнитивные задачи.
- Авторитаризм. Новые инструменты мониторинга, отслеживания и манипуляции поведением, усиленные ИИ, представляют огромную угрозу гражданским свободам и могут привести к цифровому авторитаризму.
Что делать, пока не поздно?
Нам нужно срочно пересмотреть приоритеты. Если мы не сможем остановить гонку (а я уверен, что это невозможно, ведь она питается страхом и жадностью), мы должны изменить ее правила.
Единственный разумный путь это ставка на сотрудничество и подготовку.
- Создать этический слой. Необходимо встраивать этический и правовой «слой» в алгоритмы, который будет иметь наивысший приоритет. Это означает кодифицировать наши основные правила этики (запреты на воровство, убийства, причинение вреда) и научить машины понимать и уважать человеческие ценности, адаптируясь к культурным особенностям разных стран.
- Обеспечить прозрачность и ответственность. Если ИИ используется в критически важных сферах (правосудие, медицина, финансы), необходимо законодательно требовать его объяснимости, даже если это замедлит его внедрение. Вопросы юридической ответственности должны быть решены сейчас, чтобы не парализовать внедрение ИИ.
- Инвестировать в контроль параллельно с прогрессом. Разработки по обеспечению безопасности ИИ должны идти параллельно с созданием СИИ.
Если мы преуспеем в создании гармоничного человеческого общества, где высок уровень сотрудничества и доверия, наши шансы на благополучное завершение этой технологической революции вырастут.
Если ставки это жизнь, которую мы знаем, почему мы до сих пор боремся друг с другом за кратковременное превосходство, вместо того чтобы объединить усилия для выживания?.