Двадцать пять известных математиков, каждый из которых является обладателем Филдсовской премии — самой престижной награды в этой области, — подписали открытое письмо. В нём они заявляют, что лаборатории, занимающиеся искусственным интеллектом, угрожают их интеллектуальному труду, пытаясь обойти друг друга в решении знаменитых математических задач.
• Вспышка MRSA в Ирландии связана с использованием надувных замков
На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в давлении с целью не упоминать его коллегу, работающего в Anthropic, в решении важной математической задачи. Он также предположил, что компания могла использовать их работу с Codex для создания собственного прорывного доказательства за марафонский уик-энд инференса. В четверг OpenAI отозвала спонсорство математического мероприятия в Калтехе после критики со стороны исследователей университета.
Хотя способность моделей ИИ решать выдающиеся математические задачи могла бы пойти на пользу человечеству, подписанты нового письма утверждают, что это произойдёт только в том случае, если решения будут понятны и переданы математическому сообществу и, в конечном счёте, всему миру. «Часто эти решения объявляются в спешке, не оставляя времени на должное оформление, выделение новых методов и идей и цитирование соответствующих предыдущих работ других», — написали они, отметив, что доказательство OpenAI остаётся непроверенным. «Как и во всех творческих профессиях, это поднимает серьёзные вопросы об авторстве и плагиате. Более того, без готовности математиков заниматься их развитием и интеграцией в математический канон идеи, задуманные ИИ, никогда не станут полностью жизнеспособными, и важнейшая цепочка человеческой передачи знаний между математиками будет утеряна».
Другие математики становятся всё более подозрительными, задаваясь вопросом, не были ли их собственные запросы к Codex в свою очередь использованы для обучения новых моделей OpenAI, и существует реальный страх, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя большие языковые модели (LLM), чтобы опередить оригинальных исследователей в доказательстве — динамика, которая будет стимулировать секретность.
• Глава Y Combinator призвал не мешать американским лабораториям применять дистилляцию
Это письмо появилось после Лейденской декларации, выпущенной рабочей группой математиков в июне. В этом документе также рассматривается, как доказательства, полученные с помощью LLM, изменят их работу, и предлагается набор рекомендаций для математиков, учреждений и политиков. Как и в случае с программной инженерией и другими областями, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе вокруг работы: ценность математики не только в доказательствах и признании заслуг, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.
И если вас не особенно волнует безжалостный мир высокоставочных математических доказательств, не забывайте: ваша область интересов — следующая. «Проблемы, с которыми сейчас сталкивается математическое сообщество, похожи на проблемы, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться всё человечество: как сделать так, чтобы, по мере того как ИИ меняет способы выполнения работы, мы не упустили из виду, для чего эта работа изначально предназначалась», — написали они.
Читайте также:
• Игры с меняющимися стратегиями помогли понять выбор людей
• Khosla Ventures впервые открывает офис за пределами Кремниевой долины
• К 2030-м Astroscale надеется создать коммерческую систему обслуживания спутников