Компактный компьютер Apple Mac Mini неожиданно оказался в центре экспериментов с локальными вычислениями для искусственного интеллекта. Стартап TinyCorp подключил к устройству внешнюю видеокарту и использует ее для обработки задач ИИ.
Источник изображения: TinyCorp
TinyCorp показал работу Mac Mini с дискретным графическим процессором, который подключается через интерфейс Thunderbolt 4. Для этого инженеры применили адаптер ADT-Link. Он преобразует соединение Thunderbolt в шину PCIe, которая обычно используется видеокартами.
В демонстрации использовали графический процессор, предположительно GALAX GeForce RTX 5060. Соединение обеспечивает пропускную способность около 40 Гбит/с, то есть примерно 5 ГБ/с в двунаправленном режиме. Такой показатель подходит для вычислений, связанных с моделями ИИ, но хуже подходит для задач, требующих высокой графической производительности.
macOS изначально не поддерживает подключение GPU NVIDIA или AMD в таком режиме. Поэтому в TinyCorp написали собственные драйверы пользовательского пространства на Python, которые позволяют системе работать с этими видеокартами.
Компания также готовит отдельную плату eGPU. Она получит систему управления питанием, которая отключает графический процессор при простое и перезапускает его в случае сбоев. Пока решение используют только для вычислительных задач, где видеокарта работает как отдельный вычислительный модуль.
Реклама. ООО «Яндекс Маркет», ИНН 9704254424
Читайте далее на сайте
Программист из Австралии использовал ИИ для создания вакцины от рака для своей собаки
В хранилище на сайте AMD обнаружили признаки подготовки к релизу FSR 4.1