С развитием технологий искусственного интеллекта, особенно в сфере обработки больших данных, возникает необходимость в более эффективных решениях для обучения моделей. Компания Phison представила свою новейшую разработку — aiDAPTIV+, которая обещает изменить подход к обучению ИИ, объединив графические процессоры и твердотельные накопители. Это решение не только упрощает процесс, но и делает его более доступным для широкого круга пользователей.
Технология aiDAPTIV+ от Phison представляет собой гибридное решение, которое эффективно использует твердотельные накопители для расширения памяти графических процессоров. Это позволяет значительно увеличить производительность при работе с большими языковыми моделями, такими как Llama 70b. В отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, aiDAPTIV+ предлагает более рациональный подход.
Основная идея заключается в том, что aiDAPTIV+ может запускать рабочие нагрузки, которые ранее были доступны только для мощных центров обработки данных, на обычных рабочих станциях или серверах. Это достигается благодаря интеграции твердотельных накопителей Pascari A100 M.2, которые обеспечивают линейное масштабирование. Phison подчеркивает, что система поддерживает даже самые сложные модели, такие как Llama-3 70B и Falcon 180B.
На диаграмме возможностей aiDAPTIV+ видно, как система может быть настроена. Например, она может включать четыре графических процессора RTX 6000 Ada, 192 ГБ памяти GDDR6 и дополнительные 512 ГБ оперативной памяти. Программное обеспечение aiDAPTIVLink от Phison расширяет память графического процессора с помощью двух твердотельных накопителей по 2 ТБ, что позволяет работать с массивными моделями с низкой задержкой.
Одним из ключевых факторов, требующих большого количества графических процессоров для обучения, является ограниченная скорость и емкость памяти. aiDAPTIV+ решает эту проблему, обеспечивая более быструю и эффективную работу системы. Это решение может показаться простым, но за ним стоит сложная работа специалистов Phison, которые смогли интегрировать различные технологии в единое целое.
Что особенно важно, aiDAPTIV+ является экономически эффективным решением, которое не требует значительных изменений в существующих приложениях ИИ. Phison утверждает, что пользователи могут легко адаптировать свое оборудование, повторно используя уже имеющиеся компоненты или добавляя новые узлы по мере необходимости. Системные интеграторы получают доступ к SSD AI100E, лицензиям на библиотеки промежуточного ПО и всей необходимой поддержке от Phison, что обеспечивает беспрепятственную интеграцию системы.
