ИИ запустили на 13 Вт. Как лампочку
Исследователи запускают ИИ-чатботов на мощности 13 Вт без потери производительности Ученые из Калифорнийского университета в Санта-Круз разработали метод, позволяющий запускать большие языковые модели искусственного интеллекта (LLM) при значительно меньшем потреблении энергии, чем у современных систем — новый метод позволил запустить LLM с миллиардами параметров при энергопотреблении системы всего в 13 Вт, что эквивалентно потреблению бытовой светодиодной лампы. Это достижение особенно впечатляет...