95 подписчиков
Reuters Breakingviews: у Китая заметные преимущества в экономике «вывода моделей»
Как сообщает Reuters Breakingviews, у Китая сегодня имеются заметные преимущества в экономике вывода моделей (инференса), то есть в стоимости работы моделей «в эксплуатации». Причиной тому — дешевая и доступная электроэнергия для центров обработки данных и эффективные программное обеспечение и алгоритмы, которые частично компенсируют менее мощные, по сравнению с Западом, ускорители.
Что это значит для индустрии::
• Выигрывает не только тот, у кого «самый мощный ускоритель», но и тот, у кого ниже стоимость эксплуатации и проще масштабирование в промышленной работе.
• Все важнее становятся стоимость работы модели, ее задержки и энергопотребление, а значит эффективность программной части теперь важна не меньше, чем показатели «железа».
Около минуты
2 дня назад