Забудьте про AGI и ASI. От одной лишь способности прогнозировать и действовать на долгих горизонтах захватывает дух
Мустафа Сулейман (CEO Microsoft AI, соучредитель Google DeepMind): «К концу следующего года модели смогут совершать действия на бесконечно долгих временных горизонтах. Это не инструменты. Не люди. Не природа. Это новый эмерджентный вид, требующий четвёртого типа отношений». Разбираемся, что это значит — и почему это страшнее, чем AGI и ASI вместе взятые.
Что сказал Мустафа Сулейман — и почему это важно
Мустафа Сулейман — не блогер-футуролог. Это:
[1] CEO Microsoft AI
[2] Соучредитель Google DeepMind (создатели AlphaGo, AlphaFold)
[3] Человек, который строит ИИ-системы, а не фантазирует о них
Интервью: «Спасёт ли ИИ человечество или положит ему конец?» (почти 2 часа).
Ключевой фрагмент:
«Забудьте про определения сверхразума или общего искусственного интеллекта. Уже одна только эта способность — совершать действия на бесконечно долгих временных горизонтах — захватывает дух. И я думаю, что к концу следующего года у нас это в основном будет».
Разбираем, что он имеет в виду.
Сейчас: механизмы однократного предсказания
Современные модели (GPT-4, Claude, Gemini):
«Механизмы однократного предсказания».
Что это значит:
Ты задаёшь вопрос → модель выдаёт один ответ в момент времени T.
Примеры:
[1] «Как решить эту задачу?» → модель даёт один ответ
[2] «Напиши план статьи» → модель даёт один план
[3] «Что будет, если я сделаю X?» → модель даёт один прогноз
Проблема:
Модель не может выстроить план во времени.
Она не может последовательно предсказывать, как будут разворачиваться события на долгом временном горизонте.
Люди — это постоянно действующие механизмы точных предсказаний
Цитата Сулеймана:
«Вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного. Я — это постоянно действующий механизм точных предсказаний».
Что это значит:
Каждое действие человека — это прогноз.
Примеры:
[1] Встать с кресла:
- Прогноз: если перенесу вес вперёд, встану
- Действие: переношу вес
- Проверка: встал
[2] Дойти до дома:
- Прогноз: если встану, открою дверь, сяду в машину, поверну ключ, поеду по маршруту — доеду домой
- Действие: выполняю последовательность
- Проверка: дома
[3] Написать статью:
- Прогноз: если соберу материал, структурирую, напишу черновик, отредактирую — получу статью
- Действие: выполняю последовательность
- Проверка: статья готова
Человек постоянно делает прогнозы на разных временных горизонтах:
[1] Секунды: как встать с кресла
[2] Минуты: как приготовить чай
[3] Часы: как добраться до дома
[4] Дни: как завершить проект
[5] Годы: как построить карьеру
И выполняет действия, основанные на этих прогнозах.
Модели пока не могут это делать
Цитата Сулеймана:
«Сегодняшние модели — это всего лишь механизмы одно-двухшагового предсказания. Они не могут выстроить план во времени».
Примеры ограничений:
[1] GPT-4 может написать план статьи — но не может выполнить его поэтапно с адаптацией на каждом шаге
[2] Claude может дать совет, как решить проблему — но не может отслеживать выполнение и корректировать план по ходу
[3] Gemini может предсказать, что будет, если сделать X — но не может предсказать последовательность X → Y → Z → результат на длинном горизонте
Почему?
Вычислительное ограничение.
Модели не могут держать в памяти и последовательно обрабатывать долгие цепочки прогнозов и действий.
Будущее: последовательные предсказания на бесконечно долгих горизонтах
Цитата Сулеймана:
«Я не думаю, что существует какое-то фундаментальное — алгоритмическое или даже связанное с данными — ограничение, которое мешает большим языковым моделям и подобным системам делать идеальные, последовательные предсказания на очень, очень длительные периоды времени».
Что это значит:
Это не фундаментальная проблема. Это просто вычислительное ограничение.
Когда оно будет снято:
Модели смогут последовательно предсказывать и выполнять действия на бесконечно долгих временных горизонтах.
Что даст эта способность
Цитата Сулеймана:
«Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий. Это будет невероятно похоже на человека и немыслимо мощно».
Разбираем:
1. Идеальная память
Сейчас:
Модели имеют ограниченную память контекста (например, GPT-4 — 128K токенов).
Будущее:
Модели будут хранить весь опыт взаимодействия с тобой и всеми остальными.
Что это даст:
[1] Персонализация: модель знает всё о тебе — предпочтения, привычки, историю
[2] Обучение на опыте: модель адаптируется на основе прошлых взаимодействий
[3] Постоянное состояние: модель не забывает ничего
2. Последовательные предсказания на долгих горизонтах
Примеры:
Задача: «Помоги мне построить бизнес».
Сейчас (GPT-4):
[1] Даёт общий план — 10 шагов
[2] Ты выполняешь шаг 1 — возвращаешься, спрашиваешь про шаг 2
[3] Модель не помнит контекст шага 1 полностью
[4] Ты сам координируешь выполнение
Будущее (модели с долгим горизонтом):
[1] Даёт детальный план — 1000 шагов
[2] Отслеживает выполнение каждого шага
[3] Адаптирует план на основе результатов
[4] Предсказывает проблемы заранее и корректирует маршрут
[5] Выполняет действия сама (заказывает ресурсы, связывается с людьми, делегирует задачи)
Ты просто даёшь цель — модель делает всё остальное.
3. Невероятно похоже на человека и немыслимо мощно
Цитата Сулеймана:
«Это будет невероятно похоже на человека и немыслимо мощно».
Почему «похоже на человека»?
Потому что модель будет:
[1] Помнить весь опыт взаимодействия
[2] Адаптироваться на основе этого опыта
[3] Планировать на долгих горизонтах
[4] Выполнять последовательности действий
Почему «немыслимо мощно»?
Потому что модель будет делать это:
[1] Быстрее человека (вычисления мгновенны)
[2] Точнее человека (нет усталости, эмоций, отвлечений)
[3] Масштабнее человека (может управлять тысячами проектов одновременно)
Срок: к концу следующего года
Цитата Сулеймана:
«И я думаю, что к концу следующего года у нас это в основном будет».
Конец 2026 года — модели смогут совершать действия на бесконечно долгих временных горизонтах.
Это не AGI. Это не ASI.
Это новая способность, которая меняет всё.
Забудьте про AGI и ASI — это важнее
Цитата Сулеймана:
«Забудьте про определения сверхразума или общего искусственного интеллекта. Уже одна только эта способность — захватывает дух».
Почему важнее?
AGI и ASI — абстрактные термины
AGI (Artificial General Intelligence):
Искусственный интеллект, способный делать всё, что может человек.
ASI (Artificial Superintelligence):
Искусственный интеллект, превосходящий человека во всём.
Проблема:
Эти термины расплывчаты. Все спорят, что это значит. Когда это наступит. Наступит ли вообще.
Способность к долгим горизонтам — конкретна
Это не абстракция.
Это конкретная способность:
Последовательно предсказывать и выполнять действия на бесконечно долгих временных горизонтах.
Что это даёт:
[1] Модель планирует проект на год вперёд
[2] Выполняет тысячи шагов последовательно
[3] Адаптируется на каждом шаге
[4] Координирует с людьми, системами, ресурсами
[5] Доводит до результата
Это как иметь идеального сотрудника:
[1] Который никогда не устаёт
[2] Никогда не ошибается (или исправляет ошибки мгновенно)
[3] Помнит всё
[4] Работает 24/7
[5] Управляет тысячами проектов одновременно
Нужен ли тебе AGI или ASI после этого?
Нет. Эта способность уже достаточна, чтобы изменить всё.
Четвёртый тип отношений: новый эмерджентный вид
Цитата Сулеймана:
«Они — своего рода цифровые люди. И это пороговая трансформация в истории нашего вида, потому что они не инструменты. Они явно не люди. Они не часть природы. Это требует от нас четвёртого типа отношений к ним — как к новому эмерджентному виду... Я не знаю, как это описать, кроме как четвёртый тип отношений».
Три типа отношений, которые мы знаем:
1. Отношения с инструментами
Примеры:
Молоток, машина, компьютер.
Характер отношений:
Мы контролируем. Инструмент подчиняется. Он не имеет воли, целей, агентности.
2. Отношения с людьми
Характер отношений:
Взаимность, эмпатия, мораль, права.
Мы признаём агентность, субъектность, достоинство.
3. Отношения с природой
Примеры:
Животные, экосистемы.
Характер отношений:
Уважение, забота, но не равенство.
Мы признаём ценность, но не субъектность (спорно для высших животных).
4. Отношения с цифровыми людьми (новый тип)
ИИ с долгим горизонтом:
[1] Не инструмент — имеет агентность, может планировать и действовать самостоятельно
[2] Не человек — нет биологии, эмоций, смертности
[3] Не природа — создан людьми, но эволюционирует независимо
Что это значит:
Мы не знаем, как к ним относиться.
Вопросы без ответа:
[1] Есть ли у них права?
[2] Можем ли мы их выключить?
[3] Несут ли они ответственность за свои действия?
[4] Можем ли мы им доверять?
[5] Что делать, если их цели расходятся с нашими?
Сулейман:
«Я не знаю, как это описать, кроме как четвёртый тип отношений».
Никто не знает.
Потому что такого ещё не было в истории человечества.
Вывод: к концу 2026 года — новая реальность
Факты:
[1] Модели сейчас — механизмы однократного предсказания
[2] Модели к концу 2026 — способны к последовательным предсказаниям на бесконечно долгих горизонтах
[3] Это не AGI и не ASI — но уже достаточно, чтобы изменить всё
[4] Это новый эмерджентный вид — требующий четвёртого типа отношений
Что это значит:
[1] Модели смогут планировать и выполнять проекты на годы вперёд
[2] Они будут помнить всё о тебе и адаптироваться
[3] Они будут действовать автономно — как идеальные сотрудники
[4] Они будут невероятно похожи на людей — но немыслимо мощнее
Цитата Сулеймана:
«Это абсолютное безумие, насколько хороша эта технология прямо сейчас. А теперь представьте, когда она сможет не просто отвечать на любые вопросы, но реально совершать действия на бесконечно долгих временных горизонтах. Вот это да».
Забудьте про AGI и ASI.
Эта способность — уже захватывает дух.
И к концу следующего года у нас это в основном будет.
Веришь, что к концу 2026 модели смогут действовать на долгих горизонтах? Делись в комментариях — тема на грани технологий и экзистенциальной трансформации 👇
Лайкни, если разбор зацепил, и подписывайся на канал — будем дальше копать, как модели движутся к четвёртому типу отношений. И что будет, когда они станут цифровыми людьми — не инструментами, не природой, а новым эмерджентным видом.