Исследователи Meta и нескольких университетов представили hyperagents — ИИ-системы, которые решают задачи и одновременно улучшают собственный механизм самообновления. Авторы считают, что такой подход работает в разных сферах и может стать шагом к ИИ с ускоряющимся самоулучшением. Проблема самосовершенствующихся систем, как отмечают авторы, в том, что механизм улучшения обычно задают люди, и он остается фиксированным. Из-за этого система может повышать качество работы, но не выходит за рамки исходной схемы. В hyperagent объединены два компонента в одной редактируемой программе. Первый выполняет прикладную задачу, например оценивает научную статью или создает функцию вознаграждения для робота. Второй изменяет весь агент и… Подробнее