ИИ оказался силен в математике, но ученые-математики призывают к осторожности.
Через неделю после того, как специализирующаяся на искусственном интеллекте компания OpenAI попала в заголовки газет с доказательством, созданным ИИ, новое “заявление” 16 экспертов вызывает опасения, что технология угрожает математике как дисциплине, пишет The New York Times.
В последнее время появились признаки того, что некоторые разделы высшей математики, считающиеся одними из самых утонченных областей человеческих достижений, уязвимы для встряски со стороны искусственного интеллекта. Математики, в свою очередь, задумались о том, как реагировать.
На днях группа из 16 математиков, проконсультировавшись с коллегами и математическими организациями по всему миру, опубликовала Лейденскую декларацию об искусственном интеллекте и математике. По словам Урсулы Мартин, одного из авторов, математика и специалиста по информатике из Оксфорда, эта декларация призвана “сформулировать тему для обсуждения будущих направлений”.
Эти усилия, отмечает The New York Times, были предприняты в связи с тем, что модели искусственного интеллекта попали в заголовки газет благодаря успешным результатам в математике исследовательского уровня. В конце мая компания OpenAI, создавшая ChatGPT, объявила, что одна из ее моделей опровергла известную математическую гипотезу 80-летней давности в области комбинаторной геометрии.
Эта гипотеза является одной из примерно 1200 задач, которые поставил венгерский математик Пал Эрдёшм. В то время как некоторые из этих “задач Эрдёша” считаются второстепенными вопросами, представляющими узкий интерес, другие оказались влиятельными и формирующими поле деятельности, отмечает The New York Times. Наряду с исследовательской работой, описывающей доказательство, OpenAI выпустила сопутствующую статью, написанную несколькими независимыми математиками. Джейкоб Цимерман из Университета Торонто, эксперт в смежной области теории чисел, прокомментировал: “Это действительно впечатляющая работа, и я без колебаний согласился бы опубликовать ее в любом журнале”.
Другие специалисты в этой области настроены менее оптимистичны, продолжает The New York Times. Мелани Матчетт Вуд, математик из Гарварда, была полна энтузиазма, но высказала опасения. Например, она прокомментировала, что в статье OpenAI не содержится надлежащих ссылок на “историю тесно связанных идей в литературе”.
“Это мощный инструмент, и я думаю, что он станет отличным подспорьем для ускорения математических исследований”, - комментирует доктор Мэтчетт Вуд в интервью. Но она отметила, что сообществу необходимо выяснить, как использовать искусственный интеллект “таким образом, чтобы поддерживать человеческое понимание математики”.
Среди потенциальных угроз, которые формулируют авторы Лейденской декларации, - точность и надежность: редакторы журналов уже жалуются на поток статей и доказательств, созданных искусственным интеллектом, которые кажутся правдоподобными и которые, как оказалось, неверны, и математикам трудно их распознать.
Пожалуй, наиболее остро авторы поднимают вопрос о том, учитывают ли многие ИИ-компании, занимающиеся математикой, - крупные игроки, такие как OpenAI, Google DeepMind и Anthropic, или стартапы, такие как Harmonic, Math, Inc. и Axiom Math, — интересы отрасли. “Участие технологических компаний в исследованиях, - пишут они, - повышает риск того, что исследовательские вопросы будут расставлены по приоритетам и стимулироваться из-за их доступности для ИИ”. В свою очередь, они указывают, что это ставит в невыгодное положение исследователей, которые предпочитают не использовать технологию, и тех, у кого нет к ней доступа.
По мнению Родриго Очигаме, историка и антрополога в области вычислительной техники и искусственного интеллекта из Лейденского университета в Нидерландах и одного из авторов заявления, последнее доказательство OpenAI иллюстрирует, почему в этой дисциплине необходим такой коллективный подход. “Эта история повторяет ту же схему, что и многие другие объявления коммерческих разработчиков ИИ, - сказал доктор Очигейм. - Модель ИИ является частной и недоступна никому за пределами компании. Мы получаем яркий рекламный ролик, в то время как основная информация, необходимая для оценки научного значения результата, держится в секрете. Компания ничего не сообщила о методах, подсказках, написанных человеком, данных для обучения или потребляемых вычислительных ресурсах”.
Декларация одобрена Международным математическим союзом и включена в программу Международного конгресса математиков, который состоится в июле этого года в Филадельфии. И теперь он открыт для подписания частными лицами и организациями, такими как национальные математические общества.
Подпишитесь на Telegram "МК": еще больше эксклюзивов и видео!
Автор: Андрей Яшлавский