Компания Nvidia, лидер в области графических процессоров (GPU), представила новый чип, специально разработанный для работы с искусственным интеллектом (AI). Этот чип, названный Grace, является первым в своем роде и способен обрабатывать огромные объемы данных с невероятной скоростью и эффективностью. Как утверждает Nvidia, Grace сможет снизить затраты на запуск больших языковых моделей (LLM) в десять раз. Что это значит для будущего AI и для нас?
Большие языковые модели - это программы, которые используют глубокое обучение для анализа и генерации текста на естественном языке. Они могут выполнять различные задачи, такие как перевод, суммаризация, ответы на вопросы, написание эссе и даже поэзии. Однако для того, чтобы эти модели работали хорошо, им нужно обучаться на огромных корпусах текстов, содержащих миллиарды слов и фраз. Это требует мощных вычислительных ресурсов и энергии.
Сейчас большинство LLM работают на GPU - чипах, которые изначально были созданы для обработки графики в видеоиграх и других приложениях. Но GPU имеют свои ограничения: они не могут быстро перемещать данные между памятью и процессором, что замедляет работу LLM. Кроме того, GPU потребляют много энергии, что увеличивает стоимость запуска LLM.
Вот здесь на сцену выходит Grace - новый чип от Nvidia, который специально разработан для работы с AI. Grace - это не GPU, а CPU - центральный процессор, который отвечает за выполнение основных вычислений в компьютере. Но Grace не похож на обычный CPU: он использует архитектуру ARM, которая обеспечивает высокую производительность при низком энергопотреблении. Кроме того, Grace имеет высокоскоростную связь с памятью LPDDR5x, которая позволяет ему быстро передавать данные между памятью и процессором. Благодаря этому Grace может обрабатывать до 900 гигабайт данных в секунду - в четыре раза больше, чем лучший GPU от Nvidia.
Что это дает для LLM? Согласно Nvidia, Grace сможет запускать LLM с более чем миллиардом параметров - то есть переменных, которые определяют поведение модели - в десять раз дешевле, чем на GPU. Это означает, что LLM станут доступнее и эффективнее, что позволит им решать более сложные и разнообразные задачи. Например, LLM смогут лучше понимать контекст и намерения пользователей, а также генерировать более качественный и оригинальный текст.
Новый чип от Nvidia уже привлек внимание крупных организаций, которые занимаются разработкой и применением AI. Среди них - Швейцарский национальный центр суперкомпьютеров (CSCS), который планирует использовать Grace для создания нового суперкомпьютера под названием Alps. Этот суперкомпьютер будет способен обрабатывать экзабайты данных в областях, таких как климатология, биоинформатика, астрофизика и другие. Кроме того, Grace заинтересовал Институт высокопроизводительных вычислений при Университете Флориды (UF-HPC), который собирается построить на его основе новый центр AI. Этот центр будет предоставлять доступ к LLM для студентов, преподавателей и исследователей из разных дисциплин.
Новый чип от Nvidia обещает революцию в области AI, делая его более мощным, доступным и универсальным. Grace открывает новые возможности для LLM, которые могут изменить наш способ взаимодействия с текстом и информацией. Как сказал главный исполнительный директор Nvidia Дженсен Хуанг: “Grace - это гигантский шаг вперед для AI”. А вы готовы к этому шагу?
-
Если вам интересна тема ИИ, вы хотите знать больше и не пропускать последние новости и обзоры, подпишитесь на наш канал в Telegram или перейдите на наш сайт: https://www.gptalk.ru/