Андрей Карпаты представил платформу AutoResearch для автоматизации научных исследований в машинном обучении

Андрей Карпаты, бывший руководитель направления искусственного интеллекта в Tesla и сооснователь OpenAI, представил на платформе GitHub новый проект AutoResearch. По данным разработчика, этот открытый скрипт, состоящий из 630 строк кода и распространяемый под лицензией MIT, предназначен для полной автоматизации научного метода в машинном обучении. Система реализует автономный цикл оптимизации: агент, получив обучающий алгоритм и заданный вычислительный бюджет, самостоятельно формулирует гипотезы, например, меняет глубину сети или скорость обучения. Далее он модифицирует код, проводит эксперимент и оценивает результат. При улучшении целевой метрики изменение сохраняется, иначе — отменяется. Комментируя разработку, Карпаты отметил: «Всё, что мы делаем — оптимизируем результат на вычислениях… это реальные и значимые улучшения». Практическое применение системы продемонстрировало значимые результаты. В ходе одного из тестовых запусков агент за ночь выполнил 126 экспериментов, снизив метрику потерь (loss) с 0,9979 до 0,9697. За двое суток платформа произвела около 700 автономных изменений, выявив 20 улучшений, которые были успешно перенесены на более крупные модели. Это позволило ускорить метрику «Time to GPT-2» на 11 процентов. Проект быстро получил широкое распространение: публикация Карпаты за два дня собрала свыше 8,6 миллиона просмотров. В рамках сети Hyperspace 35 агентов за ночь провели 333 эксперимента, обмениваясь открытиями через протокол GossipSub. Так, стратегия инициализации, найденная одним агентом и снизившая показатель потерь на 21 процент, была мгновенно подхвачена остальными. AutoResearch выходит за рамки машинного обучения. В сфере маркетинга агенты могут запускать десятки тысяч A/B-тестов в год вместо привычных 30–50, формируя уникальную «карту» эффективных решений для конкретной аудитории. Экспертное сообщество при этом обсуждает потенциальные риски, связанные с чрезмерной оптимизацией под валидационные данные и возможной утратой универсальности разрабатываемых моделей.