Компания Nvidia решила сама рассказать, что за программное обеспечение для отслеживания местоположения ускорителей для ИИ она разработала. Компания посвятила этому целую статью на своём сайте, раскрыв все основные подробности.
Как следует из документа, ПО действительно позволяет операторам центров обработки данных отслеживать GPU сразу по целому ряду направлений.
Среди прочего, оно позволяет определять физическое местоположение этих процессоров, что может стать потенциальным сдерживающим фактором для контрабанды чипов.
Правда, тут же Nvidia акцентирует внимание на очень важном аспекте: программное обеспечение является добровольным, а не обязательным. Так что говорить о какой-то тотальной слежке вряд ли приходится.
Программное обеспечение собирает обширные телеметрические данные, которые затем объединяются в панели мониторинга, размещенной на платформе Nvidia NGC. Этот интерфейс позволяет клиентам отслеживать в том числе состояние GPU по всему их парку, как в глобальном масштабе, так и по вычислительным зонам, представляющим конкретные физические или облачные местоположения. Речь тут о том, что ПО может определять физическое местоположение оборудования Nvidia. Операторы могут просматривать сводки по всему парку, детализировать данные по отдельным кластерам и создавать структурированные отчеты, содержащие данные инвентаризации и информацию о состоянии всей системы.
Nvidia повторяет, что это ПО носит исключительно добровольный и наблюдательный характер. Оно предоставляет информацию о поведении GPU, но ни в коем случае не может выступать в качестве бэкдора или аварийного выключателя.
Проще говорят, даже если Nvidia обнаружит, что некоторые из ее ускорителей были контрабандой ввезены в Китай, она не сможет сделать ничего. Впрочем, возможно, она сможет использовать эти данные, чтобы выяснить, как именно ускорители попали туда, куда не следовало.
ПО также позволяет отслеживать температуры компонентов и прочие данные о работе GPU, что позволяет операторам ЦОД раньше реагировать на различные изменения параметров.
В целом весь перечень возможностей выглядит так:
- Отслеживание пиков потребления электроэнергии, чтобы оставаться в рамках энергетического бюджета и максимизировать производительность на ватт.
- Отслеживание загрузки, пропускной способности памяти и состояния межсоединений во всем парке устройств.
- Выявление перегревающихся участков и проблем с воздушным потоком на ранних стадиях позволяет избежать теплового дросселирования и преждевременного старения компонентов.
- Выявление ошибок и аномалий для раннего обнаружения неисправных деталей.