Исследователи Apple в области искусственного интеллекта сообщают о значительном прорыве в разработке больших языковых моделей (LLM) на устройствах с ограниченной памятью, таких как iPhone и другие устройства Apple, благодаря разработке инновационной техники использования флэш-памяти.
LLM и ограничения памяти
Чат-боты, работающие на основе LLM, такие как ChatGPT и Claude, обычно требуют больших объемов данных и памяти для своей работы, что является проблемой для устройств с ограниченным объемом памяти, таких как iPhone. Для решения этой проблемы исследователи Apple разработали новую технику, которая использует флэш-память для хранения данных модели искусственного интеллекта.
Хранение ИИ во флэш-памяти
В своей новой научной работе, получившей название «LLM в мгновение ока: эффективный вывод модели большого языка с ограниченной памятью», исследователи отмечают, что флэш-память в мобильных устройствах имеет больший объем, чем оперативная память, обычно используемая для запуска LLM. Эта технология обходит это ограничение с помощью двух ключевых методов, которые минимизируют передачу данных и максимизируют пропускную способность флэш-памяти:
- Повторное использование данных: метод переработки данных позволяет модели повторно использовать некоторые уже обработанные данные, уменьшая необходимость постоянной выборки данных из памяти и ускоряя процесс.
- Группирование данных: этот метод позволяет более эффективно читать данные из флэш-памяти, ускоряя способность ИИ понимать и генерировать язык.
Согласно документу, комбинация этих методов позволяет моделям искусственного интеллекта обрабатывать в два раза больше данных iPhone, обеспечивая значительное увеличение скорости на стандартных и графических процессорах.
Более быстрый искусственный интеллект на iPhone
Этот прорыв в эффективности искусственного интеллекта открывает новые возможности для будущих устройств Apple, таких как улучшенные возможности голосового помощника Siri, реального времени языкового перевода и продвинутые функции искусственного интеллекта в области фотографии и дополненной реальности. Также эта технология создает основу для запуска на устройствах сложных помощников с искусственным интеллектом и чат-ботов, над разработкой которых, по сообщениям, уже работает Apple.
Работа Apple над генеративным искусственным интеллектом может быть использована в улучшенной версии голосового помощника Siri, глубоко интегрированной с искусcтвенным интеллектом. По слухам, разрабатывается собственная модель генеративного искусственного интеллекта под названием «Ajax» или «Apple GPT», которая оперирует 200 миллиардами параметров и предлагает более широкую стратегию интеграции искусственного интеллекта в экосистему Apple.
По последним отчетам, Ajax считается более продвинутым, чем предыдущее поколение ChatGPT 3.5. Однако по состоянию на сентябрь 2023 года возможно ожидается, что новые модели от OpenAI могут превзойти возможности Ajax.
По данным The Information и аналитика Джеффа Пу, ожидается, что Apple предоставит определенные функции генеративного искусственного интеллекта, доступные на iPhone и iPad, примерно к концу 2024 года с выпуском iOS 18. По словам Джеффа Пу, в октябре Apple планирует развернуть несколько сотен серверов искусственного интеллекта в 2023 году, а в 2024 году их количество еще увеличится. Предполагается, что Apple предложит комбинированный подход, включающий облачные сервисы и обработку искусственного интеллекта на устройстве.
Источник: MacRumors.