Андрей Карпати рассказал, что несколько месяцев вручную настраивал параметры обучения GPT-2, а затем передал эту задачу автономному агенту на одну ночь. По его словам, агент нашёл более точные настройки, которые он сам упустил, включая взаимосвязанные изменения параметров, заметить которые человеку проще пропустить, чем системе с перебором вариантов. Главный вывод Карпати в том, что исследователям стоит убирать себя из процесса там, где есть объективные метрики для проверки результата. Он заявил: «Чтобы получить максимум от доступных сейчас инструментов, нужно перестать быть узким местом. Нельзя постоянно присутствовать, чтобы подсказывать следующий шаг». Карпати также считает, что исследователи в крупных ИИ-компаниях слишком… Подробнее