Добавить в корзинуПозвонить
Найти в Дзене
DigiNews

Проблема «глупого гения» искусственного интеллекта

Организациям не нужны более мощные модели ИИ, им нужен ИИ, способный понимать контекст проблем. Фокус смещается с параметров моделей на создание «движка контекста». — computerweekly.com В настоящее время споры об ИИ сосредоточены почти исключительно на моделях: какая большая языковая модель (LLM) умнее, будут ли они товаром, кто победит в гонке вооружений — OpenAI, Anthropic или Google. Это реальные вопросы. Но они не самые важные. Самый важный вопрос — что находится между моделью и результатом. И на данный момент этот слой практически отсутствует. Назовем его движком контекста. Вот проблема с гением в комнате. Сэм Альтман и Дарио Амодеи оба использовали некую версию этой аналогии: представьте, что сто блестящих умов работают над вашими самыми сложными проблемами. Это убедительный образ. Но гений без контекста — это просто умный человек, действующий в вакууме. Дайте им юридический меморандум без какой-либо информации о клиенте, юрисдикции, истории переговоров, участвующих личностях — и
Оглавление

Организациям не нужны более мощные модели ИИ, им нужен ИИ, способный понимать контекст проблем. Фокус смещается с параметров моделей на создание «движка контекста». — computerweekly.com

В настоящее время споры об ИИ сосредоточены почти исключительно на моделях: какая большая языковая модель (LLM) умнее, будут ли они товаром, кто победит в гонке вооружений — OpenAI, Anthropic или Google. Это реальные вопросы. Но они не самые важные. Самый важный вопрос — что находится между моделью и результатом. И на данный момент этот слой практически отсутствует. Назовем его движком контекста. Вот проблема с гением в комнате. Сэм Альтман и Дарио Амодеи оба использовали некую версию этой аналогии: представьте, что сто блестящих умов работают над вашими самыми сложными проблемами. Это убедительный образ. Но гений без контекста — это просто умный человек, действующий в вакууме. Дайте им юридический меморандум без какой-либо информации о клиенте, юрисдикции, истории переговоров, участвующих личностях — и результат будет в лучшем случае общим. Интеллект реален. Полезность ограничена. Что меняет всё, так это не добавление большего числа гениев. Это брифинг перед тем, как они войдут в комнату. Этот брифинг — ситуационная осведомленность, организационная память, понимание того, как конкретный пользователь или компания действует в мире — вот что обеспечивает движок контекста. И это почти полностью отсутствует в том, как большинство людей используют ИИ сегодня. По сути, мы даем блестящим умам задачу без предыстории и удивляемся, почему результаты кажутся впечатляющими, но неточными.

Уроки из истории Google

Вспомните, как развивался Google. В первые дни все отслеживали метрику размера индекса — сколько веб-сайтов проиндексировал Google. Больше страниц означало лучший поиск. Это была товарная гонка, и Google в ней победил. Но аналитики в конечном итоге поняли, что это не дает Google долгосрочного устойчивого преимущества. Оно появилось из-за того, что Google знал вас. Он понимал, что вы на самом деле ищете в контексте всего, что вы когда-либо искали. Индекс был воспроизводим. Отношения с пользователем — нет. Сейчас мы находимся в индексной фазе ИИ. Все измеряют параметры, бенчмарки, оценки рассуждений. Они важны. Но именно в них не будет накапливаться долгосрочная ценность. Слой контекста — будет. Рассмотрите, что контекст открывает на практике. ИИ юридической фирмы должен знать не только закон — он должен знать толерантность этого клиента к риску, стиль составления документов этого партнера, двадцатилетнюю историю дел и то, как оппонирующая фирма склонна вести переговоры. ИИ программной команды должен не просто писать чистый код — он должен понимать архитектурные решения, принятые три года назад, технический долг, с которым команда решила жить, и что означает «готово» в этой организации. Сырой интеллект базовой модели имеет гораздо меньшее значение, чем то, знает ли она, где находится. Вот почему это также бизнес-история. LLM, при всей их впечатляющей природе, в конечном счете воспроизводимы. При наличии достаточного капитала и таланта можно обучить конкурентоспособную модель. Это не отрицание того, что создали OpenAI, Anthropic и Google, — это наблюдение о природе актива. Гонка между ними реальна, и результат имеет значение. Но это гонка.

Почему контекст важен в ИИ

Контекст — это другое. Контекст требует, чтобы пользователи и организации активно решали делиться информацией — своими рабочими процессами, своей историей, своими предпочтениями, своими институциональными знаниями. Этот акт обмена создает издержки переключения. Как только контекст организации оказывается внутри системы, уход из этой системы означает начало с нуля. Контекст не переносится. Это преимущество, которое со временем накапливается так, как не может делать только производительность модели. Именно поэтому организационный контекст ценнее индивидуального. Отдельный пользователь может относительно быстро восстановить свои отношения с новым инструментом. Организация — нет. Издержки переключения являются институциональными — они существуют в разных командах, процессах и годах накопленных данных. Тот, кто первым захватит это и заслужит доверие, необходимое для его хранения, получает нечто, что больше похоже на инфраструктуру, чем на программное обеспечение. Дебаты об LLM продолжатся. Они не являются неважными. Но следующий этап создания ценности в сфере ИИ будет выигран не тем, кто создаст самую умную модель в изоляции. Он будет выигран тем, кто поймет, как сделать эти модели по-настоящему ситуационно осведомленными — оснащенными не только тем, что они узнали, но и тем, где они находятся, кому они служат и что на самом деле важно в этот конкретный момент. Движок контекста уже на подходе. Вопрос в том, кто его построит и кто будет владеть тем, чему он научится. Джуда Тауб — основатель и управляющий партнер Hetz Ventures, израильской венчурной фирмы на ранней стадии, специализирующейся на кибербезопасности, данных и инфраструктуре ИИ.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Автор –

Оригинал статьи