В июне на конференции разработчиков WWDC компания Apple представит свою стратегию развития искусственного интеллекта в рамках iOS 18 и других новых версий операционной системы. Сейчас просачиваются все новые и новые подробности о том, что планируется сделать.
Автономный искусственный интеллект в iOS 18
В последнем выпуске рассылки PowerOn появилась новость от Марка Гурмана. Он считает, что новые функции ИИ в iPhone будут полностью поддерживаться автономной моделью, разработанной Apple для больших языковых моделей (LLM) на самом устройстве (через 9to5mac). Этот слух уже появлялся некоторое время назад.
Теперь Гурман предоставил дополнительную информацию. По слухам, Apple будет рекламировать преимущества такого "офлайнового" подхода с точки зрения защиты данных и скорости.
9to5Mac уже нашел соответствующие ссылки на код в iOS 17.4, где говорится о языковой модели на устройстве под названием "Ajax". Apple также работает над серверными версиями Ajax.
Недостатком LLM на устройствах является то, что они не могут быть такими же мощными, как модели, работающие на огромных серверных фермах, за которыми стоят десятки миллиардов параметров и постоянно обновляемых данных. Тем не менее, автономный вариант вполне может предложить лучшие результаты, относящиеся конкретно к пользователю, чем ИИ на сервере, питающемся от миллионов пользователей.
Кроме того, модели на устройствах обычно отвечают гораздо быстрее, чем при пересылке запроса через облачный сервис, а также имеют то преимущество, что могут работать в автономном режиме в местах с ограниченным или отсутствующим подключением.
Новые модели iPhone, обрезанные под Ajax
Разработчики Apple, вероятно, в полной мере воспользовались преимуществами подхода, основанного на использовании устройств, и оптимизировали под Ajax как iOS 18, так и грядущие модели iPhone. Хотя LLM на устройствах могут не иметь такой встроенной базы знаний, как, например, ChatGPT, они могут быть настроены так, чтобы быть очень мощными для многих задач.
Можно представить, что LLM на устройстве может генерировать сложные автоматические ответы на сообщения или улучшать интерпретацию многих распространенных запросов Siri. Кроме того, это прекрасно сочетается со строгим соблюдением конфиденциальности Apple.