...из подростковой киношки 1975 года, когда вроде бы ничто не предвещало, хотя умные люди стали задумываться на эту тему гораздо раньше.
На какую тему? Да вот же [ссылка на видео].
AGI (Artificial General Intelligence — искусственный общий интеллект) — теоретическая концепция в области искусственного интеллекта, которая предполагает создание системы, способной выполнять любые интеллектуальные задачи на уровне человека или превосходить его. Такая система должна обладать гибкостью мышления, способностью к самообучению, адаптации к новым условиям и решению разнообразных задач без узкой специализации.
Этим, кстати, AGI отличается от Narrow AI или Weak AI, который заточен под выполнение конкретных задач в рамках предопределённого набора параметров.
Термин Artificial General Intelligence в книге 2007 года с одноимённым названием популяризировал Бен Герцель с подачи Шейна Легга — сооснователя DeepMind.
Некоторые ключевые характеристики AGI:
— способность к обобщению знаний из разных областей (человек, умеющий решать логические задачи, может применять этот навык в разных сферах — от программирования до бизнеса, и AGI должен обладать аналогичной гибкостью мышления);
— умение обучаться на небольшом количестве примеров (few-shot learning);
— понимание контекста и неявных смыслов;
— способность к абстрактному мышлению и формированию гипотез;
— возможность самостоятельной постановки целей и решения задач;
— самосознание и целостный когнитивный опыт;
— эмоциональный интеллект (умение чувствовать эмоциональную окраску информации и настроение человека, иметь способности к эмпатии и учитывать моральные принципы).
В отличие от мрачной истории, которую в 1975 году рассказал персонаж фильма "Отроки во Вселенной" в исполнении мужественного Игоря Ледогорова, нынешние земляне пока не создали полноценный AGI...
...но его концепцию активно разрабатывают лаборатории OpenAI, Google DeepMind, Anthropic и другие лидеры нейросетевого рынка, которые объявили создание AGI главным направлением своих исследований.
Такие исследования включают изучение когнитивных архитектур и нейронаук, глубокое машинное обучение — и требуют очень серьёзных даже по нынешним временам вычислительных мощностей, развития алгоритмов и новых подходов к робототехнике.
Потенциальные риски, связанные с AGI, были очевидны для советских кинематографистов больше полувека назад. В частности, это:
— потеря человеческого контроля над системой;
— экономическая и социальная нестабильность из-за замены людей машинами;
— военные риски (например, неконтролируемое использование в автономных системах);
— принятие решений, не учитывающих человеческие ценности, мораль или этику;
— возможность манипуляции и контроля со стороны системы.
Кино кином, а перспективы в самом деле настораживающие.
Переписываться с автором, читать и комментировать эксклюзивные публикации — эти и другие приятные возможности с начала 2025 года получили подписчики аккаунта "Премиум".
★ "Петербургский Дюма" — название серии историко-приключенческих романов-бестселлеров Дмитрия Миропольского, лауреата Национальной литературной премии "Золотое перо Руси", одного из ведущих авторов крупнейшего российского издательства АСТ, кинотелевизионного сценариста и драматурга.
Иллюстрации из открытых источников.