Mac Mini от Apple набирает популярность благодаря AI-нагрузкам, но TinyCorp нашла способ сделать его мощнее, установив GeForce RTX 5060 для вычислительных задач. Стартап использует адаптер Thunderbolt 4 в PCIe и собственные драйверы для GPU AMD/NVIDIA. — wccftech.com
Mac Mini от Apple начал становиться одним из самых востребованных вычислительных устройств после «лихорадки OpenClaw», но вот как вы можете сделать его еще мощнее.
TinyCorp удалось установить GeForce RTX 5060 на Mac Mini от Apple, но только для вычислительных задач
В последние годы люди начали ценить мощность производительного устройства, особенно для агентных AI-нагрузок, что и объясняет огромную популярность Mac Mini от Apple. Одним из недостатков вычислительных устройств Apple является ограниченное пространство для внешних подключений, особенно для eGPU, по сравнению с устройствами на Windows аналогичного форм-фактора. Однако TinyCorp удалось подключить Mac Mini к тому, что выглядит как потребительская GPU от NVIDIA, вероятно, GALAX GeForce RTX 5060, открывая новые перспективы для развертывания локальных LLM на Mac Mini.
Судя по тому, что раскрыла TinyCorp, стартап в области ИИ использует адаптер ADT-Link, который, по сути, преобразует соединения Thunderbolt 4 в совместимую с GPU шину PCIe, и, что интересно, им удалось достичь скорости 40 Гбит/с (5 ГБ/с в двустороннем режиме), что является неплохим показателем для инференса LLM, но не так хорошо для интенсивных графических приложений. Чтобы преодолеть программное узкое место при подключении GPU AMD/NVIDIA к macOS, TinyCorp написала специализированные драйверы пользовательского пространства на Python для GPU AMD и NVIDIA.
По словам стартапа, текущая поддержка ограничена современными потребительскими GPU, но они заявляют, что во втором квартале выпустят специализированную плату eGPU, идея которой заключается во встроенном аппаратном управлении для контроля подачи питания, что позволит пользователям экономить энергию, когда GPU не используется, и иметь механизм сброса на случай, если GPU «странно зависнет». Интересно, что реализация строго ограничена задачами, требующими только вычислений («compute-only»), поскольку GPU рассматривается как необработанное вычислительное устройство через его интерфейс PCIe с отображением памяти.
Концепция eGPU не является совершенно новой, ни для Windows, ни для MacOS, но в последнее время, учитывая рост волны периферийного ИИ (edge AI), потребность в более высокой вычислительной мощности на устройстве стала гораздо более важной, поэтому решение TinyCorp делает традиционный Mac Mini намного мощнее.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Muhammad Zuhair