Стартап Thinking Machines, основанный бывшими ведущими разработчиками OpenAI во главе с Мирой Мурати, представил свой первый продукт — Tinker. Это API, который позволяет разработчикам создавать и запускать алгоритмы дообучения моделей искусственного интеллекта, при этом вся инфраструктура обучения, включая распределение серверных ресурсов и восстановление сбоев, обрабатывается системой Thinking Machines.
Платформа поддерживает модели различного размера, от компактных до очень крупных, включая архитектуру Mixture-of-Experts. В API доступны примитивы низкого уровня, с помощью которых можно собрать популярные методы тонкой настройки моделей.
Для более сложных сценариев Thinking Machines выпустили открытый набор готовых алгоритмов Tinker Cookbook. В него вошли распространённые техники дополнительного обучения, включая обучение с подкреплением с обратной связью (RLHF), многопользовательские модели, использование вспомогательных инструментов и задачи математического рассуждения.
Tinker уже протестировали несколько ведущих научных групп. Например, в Принстоне с его помощью обучили модель для доказательства математических теорем, а в Беркли — специализированные методы обучения с подкреплением для агентов в многопользовательской среде.
Основная задача Tinker — дать разработчикам полный контроль над процессом обучения и экспериментов, при этом снимая с них тяжёлую нагрузку администрирования вычислительной инфраструктуры. Сейчас инструмент доступен в закрытом бета-тестировании, на первоначальном этапе использование бесплатное, позднее планируется ввести плату за потребление ресурсов.