В начале прошлого года я озадачился сборкой собственного ПК и, конечно, выбирал видеокарту. И в характеристиках некоторых видеокарт я заметил интересный пункт - тензорные ядра. Что это? - подумал я и отправился в интернет. Если вам также интересно, что это такое, добро пожаловать в статью :)
Пару лет назад компания Nvidia представила Turing - новую архитектуру графических процессоров. Наверное, вы заметили сходство названия архитектуры с фамилией отца искусственного интеллекта Алана Тьюринга. И это неспроста.
Новая архитектура предполагала использование искусственного интеллекта и одним из ее компонентов стали эти самые тензорные ядра.
Главной задачей тензорных ядер является повышение производительности и скорости вычислений, особенно тензорные ядра эффективны в работе с матрицами.
Причем тут матрицы?
Операции перемножения матриц являются основой машинного и глубокого обучения и инференса. Инференс - это процесс получения выводов на основе обученной нейросети. Тензорные ядра способны намного быстрее выполнять эти операции, по сравнению с более ранними решениями. Причем, тензорные ядра могут пригодиться вообще везде, где предполагается работа с матрицами, не только для обучения. К тому же они занимают сравнительно небольшую площадь на GPU, что повышает энергоэффективность.
В игровых видеокартах тензорные ядра способствуют ускорению процесса трассировки лучей и уменьшению количества лучей, требуемых в сцене. Это происходит за счет шумоподавления и очищения изображения на основе искусственного интеллекта.
Но так ли они необходимы?
Разработчики знаменитой игры Metro Exodus признались, что необходимости использования тензорных ядер для использования технологии трассировки лучей нет. Но, со своей стороны могу отметить, что прочитав большое количество материалов о тензорных ядрах, выделил значительные преимущества их применения в современных архитектурах GPU. А вы как считаете?