Компания Google представила алгоритм TurboQuant, который снижает потребление оперативной памяти нейросетями до шести раз и ускоряет их работу до восьми раз.
Разработчики представили технологию, способную заметно изменить рынок искусственного интеллекта. Новый алгоритм TurboQuant позволяет моделям выполнять те же задачи, используя значительно меньше ресурсов. Об этом сообщается на сайте Google.
По заявленным данным, потребление оперативной памяти сокращается до шести раз, а скорость работы увеличивается до восьми раз. При этом качество результатов, как утверждается, не страдает.
Фактически речь идет о более эффективной оптимизации вычислений. Нейросети смогут запускаться даже на менее мощных устройствах — это открывает доступ к технологиям для более широкой аудитории и снижает требования к инфраструктуре.
Рынок отреагировал быстро. На фоне новостей снизились акции производителей памяти — инвесторы ожидают, что спрос на дорогостоящие комплектующие может ослабнуть. Если технологии действительно получат широкое распространение, это может привести к удешевлению оборудования.
Таким образом, разработка способна повлиять не только на сферу ИИ, но и на весь рынок компьютерного железа, где стоимость компонентов во многом зависит от потребностей в вычислительных ресурсах.
Ранее сообщалось, что к 2026 году энергопотребление систем искусственного интеллекта может достичь уровня крупных стран и превысить 1000 тераватт-часов в год. Мировая индустрия искусственного интеллекта стремительно наращивает энергопотребление. По оценкам экспертов, уже к 2026 году центры обработки данных, обеспечивающие работу нейросетей, будут потреблять около 1 050 тераватт-часов электроэнергии ежегодно. Это сопоставимо с уровнем таких стран, как Россия или Индия.