Технический директор Intel Грег Лавендер предлагает использовать большую языковую модель (LMM) для преобразования старого кода в формат, что будет работать на других ускорителях искусственного интеллекта.
Грег Лавендер сделал это предложение во время своего выступления во время мероприятия под названием Innovation Keynote, выделив проигрываемый инструмент Intel, Copilot. Это предложение направлено на решение проблемы, с которой сталкиваются производители оборудования, такие как Intel и AMD, где код, написанный для CUDA, должен быть переработан для запуска на альтернативных платформах.
Компания Intel уже добилась прогресса в этой области со своей кроссплатформенной моделью параллельного программирования под названием oneAPI и предложением по внедрению искусственного интеллекта под названием OpenVINO. Лавендер сообщил, что количество установленных копий oneAPI увеличилось на 85% с 2021 года, что свидетельствует о растущем интересе к этой платформе. Важно отметить, что как oneAPI, так и OpenVINO являются открытыми приложениями и могут использоваться с оборудованием различных производителей микросхем.
Чтобы преодолеть доминирование CUDA в экосистеме программного обеспечения искусственного интеллекта, Intel представила SYCL как часть своего языка параллельного программирования C++. SYCL - это слой абстракции, который работает на нескольких архитектурах и разбирается со значительной долей работы по переносу кода CUDA на Nvidia ускорители. Однако, для оптимизации приложений для конкретных ускорителей может быть необходима определенная настройка.
Лавендер предлагает использовать модель LLM для автоматизации дальнейшей настройки, что обеспечит более легкий переход для разработчиков. Вице-президент Intel по программному обеспечению и экосистеме Джо Керли, соглашается с Грегом Лавендером и ожидает дальнейшего изучения в этой области. Керли считает, что в будущем произойдет значительное изменение в мире с низким кодом или без него. Однако SYCL не единственный вариант написания кода, не зависящего от ускорителей. Фреймворки, такие как Triton от OpenAI и Jax от Google, также предлагают альтернативы. Керли призывает разработчиков изучить эти варианты, если они недовольны SYCL.
Компания Intel стремится поддерживать стартапы в области искусственного интеллекта в улучшении своего кода для своего оборудования. Компания предоставляет ресурсы, программное обеспечение, поддержку и доступ к ускорителям с помощью своего облака разработки. Кроме того, программа Intel Liftoff направлена на то, чтобы помочь стартапам в области программного обеспечения искусственного интеллекта в создании приложений, работающих на продуктах Intel.
Проблемы совместимости кода простираются далеко за пределы Intel, о чем свидетельствует недавнее создание Фонда единого ускорения (UXL). Эта группа, в которую входят такие компании, как Arm, Fujitsu, Google Cloud, Qualcomm Technologies и Samsung, стремится разработать oneAPI для различных ускорителей разных производителей.