🔬 Андрей Карпати: люди стали главным тормозом в развитии ИИ и пора уходить с пути агентов
Человеческая интуиция проигрывает системному поиску: Андрей Карпати (экс-директор по ИИ в Tesla и сооснователь OpenAI) пришел к выводу, что исследователи стали «бутылочным горлышком» в областях с измеримым результатом.
Карпати месяцами вручную тюнил конфиги для обучения GPT-2, но решив провести эксперимент, доверил это автономному агенту на одну ночь. Результат: агент нашел тонкие взаимозависимости параметров, которые человек просто не в состоянии отследить. Проект autoresearch показал впечатляющую эффективность: за двое суток ИИ-агент провел 276 экспериментов и нашел 29 улучшений, подняв эффективность обучения модели на 11% без участия человека.
Главный инсайт — в задачах с четкими метриками (кодинг, оптимизация весов, тренировка LLM) исследователям пора «удалить себя из цикла». Пока ученые в топовых лабораториях слишком доверяют своему чутью, агенты уже способны автоматизировать их работу быстрее и точнее. Карпати называет человеческий мозг «мясным компьютером», чьи когнитивные лимиты теперь ограничивают прогресс.
Однако это касается только Hard-задач с проверяемым результатом. В «мягких» доменах, где успех сложно измерить цифрами, ИИ пока справляется значительно хуже. Но для технарей месседж ясен: роль смещается от «экспериментатора» к «дизайнеру ограничений» для поисковых агентов.
#AI #Research #AndrejKarpathy #Autoresearch #Agents #LLM
🔗 Andrej Karpathy says humans are now the bottleneck in AI research with easy-to-measure results
