В то время как OpenAI, по слухам, для реализации своих планов по разработке чипов стремится приобрести готовую компанию, Microsoft работает над созданием специализированного процессора, которому присвоено кодовое наименование Athena, совместно с AMD.Открытые системы
Применение специализированных чипов позволит Microsoft и OpenAI сократить энергопотребление и улучшить взаимодействие вычислительных компонентов и памяти, что в свою очередь поможет добиться снижения стоимости запросов.Открытые системы
К другим преимуществам специализированных процессоров следует отнести контроль доступа к чипам и проектирование элементной базы с учетом особенностей LLM, что помогает увеличить скорость обработки запросов.Открытые системы
Возможно, покупка и интеграция аппаратных средств для логического вывода обходится дешевле, чем приобретение мощного графического процессора или новейшего процессора Sapphire Rapids.Открытые системы