Согласно новой научной статье, Apple нашла способ запускать большие модели искусственного интеллекта на телефоне за счет хранения параметров на NAND-флэш-памяти iPhone. С добавлением другими компаниями аппаратного обеспечения машинного обучения к их чипам, скоро будет возможно запускать локальный искусственный интеллект на смартфонах. Однако проблема в том, что модели крайне большие, и требуется хранение триллионов параметров в памяти. Решение Apple заключается в использовании более емкой NAND-флэш-памяти, несмотря на то, что она медленнее, чем ОЗУ. Это развитие происходит в то время, как Google также работает над мобильными LLM с "нано" версией, предназначенной для смартфонов.