Apple приближается к прорыву в области больших языковых моделей на устройствах
Компания Apple находится на пороге значительного технологического прорыва в области больших языковых моделей (LLM), способного произвести революцию в использовании этих систем искусственного интеллекта в iPhone и других устройствах Apple. Компания разрабатывает уникальную технологию, которая использует флэш-память для работы LLM, что может предоставить передовые возможности генеративного искусственного интеллекта непосредственно в руки пользователей.
Проект под кодовым названием Ajax призван сместить парадигму с серверной обработки данных, характерной для таких моделей, как ChatGPT, на работу полностью на устройстве. Такой подход согласуется с давним акцентом Apple на приватность и безопасность, позволяя осуществлять сложные взаимодействия с искусственным интеллектом без необходимости передачи данных на внешние серверы.
Одной из главных проблем при внедрении этой технологии был ограниченный объем оперативной памяти в iPhone, который обычно не соответствует требованиям для запуска сложных моделей ИИ. Предлагаемое Apple решение предполагает хранение части данных языковой модели непосредственно во флэш-памяти устройства, наряду с приложениями и фотографиями. Такой нетрадиционный подход позволит максимально использовать относительно большую емкость памяти, доступную в современных смартфонах.
Чтобы повысить производительность и сделать это возможным, исследователи Apple разработали два ключевых метода. Первый предполагает повторное использование уже обработанных данных, что может значительно ускорить выполнение повторяющихся задач и запросов. Второй направлен на эффективную группировку данных и доступ к ним для более быстрого извлечения из флеш-памяти, что улучшает общее время отклика и снижает нагрузку на процессор и графический чип устройства.
Ожидается, что эти инновации позволят удвоить скорость работы искусственного интеллекта в существующих моделях iPhone, что ознаменует значительное улучшение возможностей искусственного интеллекта на устройстве. Такие усовершенствования могут изменить взаимодействие пользователей с их устройствами, предлагая более сложные и отзывчивые функции ИИ без ущерба для конфиденциальности и производительности.
По слухам, Apple планирует представить новую технологию искусственного интеллекта для iPhone и iPad с выходом iOS 18 к концу 2024 года. В случае успеха этот прорыв может установить новый стандарт для персонального ИИ, делая акцент на конфиденциальности, скорости и эффективности, и, возможно, послужит толчком к изменению подхода других компаний к интеграции ИИ в мобильные устройства.
Что такое ChatGPT: