Специалисты из Университета Калифорнии в Санта-Крузе смогли запустить большую языковую модель с миллиардом параметров при расходе всего 13 Вт. Это примерно столько же, сколько расходуют современные светодиодные лампочки. Графические процессоры в серверах, используемые для выполнения задач больших языковых моделей, требуют около 700 Вт. До сих пор искусственный интеллект развивался в направлении повышения производительности, и меньше внимания уделялось эффективности. Чтобы исправить этот недостаток, исследователи исключили использование интенсивной техники под названием «умножение матриц»...