Почему разговор об ИИ вдруг стал таким тревожным
В 2024 году ведущие специалисты в области искусственного интеллекта оценили вероятность вымирания человечества из-за ИИ в 16%. Почти как русская рулетка. И это говорят люди, которые сами создают эти системы.
Почему так? А потому, что скорость развития искусственного интеллекта больше не линейная. Она экспоненциальная. Посудите сами: в 2020 году нейросети не справлялись даже с простым редактированием кода. Сегодня они создают целые сайты и приложения. И если этот тренд сохранится, в ближайшие годы изменится рынок труда, бизнес и распределение власти.
Главный вопрос здесь уже не в том, станет ли ИИ сильнее. Главный вопрос в том, когда он начнет не просто помогать человеку, а реально забирать у него работу.
Как понять, когда ИИ действительно сможет заменить человека
Исследователи из организации METR задались простым вопросом: насколько много работы ИИ может выполнить самостоятельно, без помощи человека? Именно этот индикатор и показывает, когда ИИ действительно сможет забрать вашу работу. Не просто сделать что-то за вас, а именно забрать.
Они обнаружили довольно шокирующую тенденцию. В 2020 году GPT-3 мог написать электронное письмо. Это была задача длиной примерно в 15 секунд. Год назад искусственный интеллект уже мог исправить ошибку в коде. Сейчас он способен создать целое приложение с нуля.
Сложность задач, которые ИИ может выполнять самостоятельно, удваивалась всего за несколько месяцев, и этот цикл повторялся снова и снова. Примерно с 2019 года это происходило каждые семь месяцев. Современные системы могут выполнять задачи, которые в 100 раз длиннее, чем пять лет назад. А ещё через пять лет они будут справляться с задачами в тысячи раз масштабнее.
И вот здесь начинается самое интересное.
Закон Мура для искусственного интеллекта
В 1965 году основатель Intel Гордон Мур сформулировал закономерность, которую позже назвали законом Мура. Суть ее предельно проста: мощность и сложность микрочипов удваиваются каждые два года, а устройства при этом становятся дешевле и компактнее. Поэтому сейчас iPhone обладает большей вычислительной мощностью, чем целая комната компьютеров в 1970-х годах. Это и есть экспоненциальный рост.
METR обнаружили аналог закона Мура для искусственного интеллекта. Только он в три раза быстрее оригинального закона. GPT 5.2 способен выполнять реальные задачи программной инженерии, на которые у человека уходит более трех часов. Это втрое превышает возможности даже лучших моделей всего год назад. Причём скорости только растут. Удвоение прогресса ИИ происходит каждые четыре месяца, а не каждые семь, как раньше. Замедления не происходит. В 2025 году улучшения искусственного интеллекта начали ускоряться. Скептики уверенно заявляли, что развитие замедлится или остановится. И что забавно, они повторяли это каждый год. И каждый раз ошибались.
Если эта тенденция сохранится, искусственный интеллект будет выполнять задачи продолжительностью восемь часов уже в 2026 году. И делать это абсолютно автономно. А ведь это полноценный рабочий день для человека. Затем, в 2028 году, задачи продолжительностью в неделю. И так далее. Поэтому если ИИ-агенты действительно смогут выполнять задачи длиной в неделю, они смогут заменить офисные профессии везде, во всех секторах экономики.
Именно поэтому искусственный интеллект потихоньку начинает выжимать людей из бизнеса.
Почему мы для ИИ уже выглядим слишком медленными
Вот интеллект уже выполняет за нас задачи длиной в месяц. Затем задачи длиной в год. Представьте, что объём работы за год в вашей компании выполняется всего за несколько дней. ИИ-агенты будут работать со скоростью в сотни раз выше человеческой. Мы тратим месяц на то, что они уже через год будут делать буквально за час. А теперь представьте, что так будет во всём. На фоне такой скорости мы для искусственного интеллекта будем выглядеть не просто медленными, а почти неподвижными.
Почему людям кажется, что прогресс ИИ остановился
Есть одна вещь, которая больше всего сбивает людей с толку в развитии ИИ. Экспоненциальные кривые реальны, но критически важные детали не всегда бросаются в глаза. Развитие происходит рывками.
Есть такой инструмент для тестирования ИИ-моделей, как GPQA. Он проверяет, может ли искусственный интеллект глубоко рассуждать на сложные научные темы: биология, физика, химия. Вопросы составляют ученые, и ответ на них нельзя просто загуглить. Год назад модели ИИ могли ответить примерно на 60% таких вопросов. Сегодня они приближаются к 90%. И это лучше, чем результаты выдающихся ученых. При этом ИИ всё ещё допускает нелепые ошибки, которые ни один человек не сделал бы. Но большинство таких ошибок уже в прошлом.
Журналисты постоянно попадаются на это. Они публикуют материалы о том, чего искусственный интеллект якобы не умеет, опираясь на исследования, которые к моменту публикации уже давно устарели. Хотя этим исследованиям может быть чуть больше года. А общество видит такие заголовки и делает вывод, что прогресс остановился. Но это не так.
Я бы назвал это амнезией в отношении ИИ. Мы просто не способны помнить, насколько ограниченными были эти системы всего пару лет назад. Даже год назад было трудно представить, что модели смогут решать задачи уровня начальной школы. Я уже молчу про создание видео или программирование.
Может ли экспоненциальный рост ИИ всё-таки остановиться
Скептики задают понятный вопрос: экспоненциальный рост не может продолжаться вечно. Рано или поздно он должен выйти на плато. Часто приводят пример с ребёнком: если трехмесячный ребенок сейчас весит вдвое больше, чем при рождении, это же не значит, что к десяти годам он будет весить миллиарды килограммов. Очевидно, что это абсурд. Но проблема в том, что такой пример основан на двух точках данных. Тренд METR основан на пятнадцати точках данных за шесть лет. И кривая там не выравнивается. Наоборот, она ускоряется. В период с 2024 по 2025 год время удвоения сократилось с семи месяцев до четырёх. Это намного быстрее закона Мура.
Поэтому вопрос уже не в том, возможен ли экспоненциальный рост. Вопрос в том, где он остановится.
И это как раз та часть, которая больше всего волнует исследователей.
Почему создатели ИИ сами говорят о риске катастрофы
В 2024 году учёные опросили тысячи специалистов по ИИ. И те оценили вероятность того, что ИИ приведёт к вымиранию человечества, в 16%. Генеральный директор Anthropic оценивает эту вероятность уже в 25%. При этом он далеко не единственный, кто так считает. И это особенно важно, потому что основатели таких компаний понимают масштаб рисков лучше, чем большинство наблюдателей со стороны. Сама ситуация выглядит почти беспрецедентной: создатели технологии открыто предупреждают, что она может выйти из-под контроля, и при этом продолжают её развивать.
Раньше Сэм Альтман называл это по-настоящему пугающим сценарием, потому что ситуация может очень быстро выйти из-под контроля. Сейчас OpenAI открыто движется в этом направлении. А глава разработки искусственного интеллекта в Microsoft заявляет, что этого нельзя допускать: риск вымирания слишком высок.
Сегодня разработкой моделей занимается лишь несколько тысяч исследователей. Именно эти люди обеспечили тот прогресс, который мы видим на графике METR. Но с появлением ИИ-агентов, которые будут делать то же самое, скорость развития моделей вырастет в сотни раз.
Генеральный директор Anthropic говорит, что Claude уже пишет 90% кода внутри компании. Ещё шесть месяцев назад подобные прогнозы вызывали насмешки. ИИ прошёл путь от нуля до большей части кода всего за несколько лет. Уже сейчас он пишет код, который способен заменить младших программистов. По оценке главы Anthropic, в ближайшем будущем ИИ может устранить до 50% офисных профессий начального уровня.
Остаётся вопрос, сколько времени потребуется, прежде чем ИИ начнёт вытеснять не только младших, но и более опытных сотрудников. Формально время ещё есть, но, судя по темпам развития, его не так много.
Что происходит на самом деле: не плато, а серия рывков
Любая экспоненциальная кривая в реальности выглядит не как гладкая линия вверх, а как серия зигзагов. После выхода GPT-4 произошёл резкий скачок возможностей. Затем темпы улучшений немного замедлились. Скептики сразу объявили победу: всё, масштабирование закончилось. Но если посмотреть шире, общая траектория остается экспоненциальной, потому что постоянно появляются новые технологические прорывы.
Период плато может длиться месяцы. Но это не отменяет общей взрывной динамики роста. Именно так и выглядит экспоненциальный рост при рассмотрении вблизи.
Ключевой вывод здесь прост. Прогресс долгое время выглядит почти незаметным. А затем происходит резкий переход, и изменения становятся тотальными.
Что всё это значит для нас
Мы движемся по траектории создания всё более интеллектуальных машин. И вполне правдоподобно, что однажды они станут умнее нас. Тогда у них появится автономность, собственные цели, и эти цели могут не совпадать с нашими.
Всего пять лет назад специалисты по ИИ предполагали, что до сверхинтеллекта остаётся около 25 лет. Однако многие из достижений, которые ожидались к 2040 году, происходят уже сейчас.
И пугает не только скорость. Пугает масштаб. Сверхинтеллект — это уровень, который мы практически не способны осмыслить. Мы понимаем разницу между низким и высоким IQ. Но у нас нет интуитивного понимания того, что означает интеллект, превосходящий человеческий на порядки.
Доминирующее положение человека на планете указывает на довольно простое правило: интеллект даёт власть. Следовательно, если сверхинтеллект будет создан, он станет наиболее могущественной формой интеллекта в истории жизни на Земле. Все живые существа, включая человека, окажутся в полной зависимости от него.
Напишите в комментариях, как вам кажется, мы всё ещё управляем развитием ИИ или уже просто не успеваем за ним?