Совсем недавно это казалось фантастикой и уделом далекого будущего. Про роботов и искусственный интеллект писали книги и снимали кино, но едва ли кто, кроме узкого круга специалистов и фанатов-футурологов верил, что алгоритмы с возможностью самообучения вскоре перевернут нашу жизнь.
Теперь это стало реальностью. И сегодня уже сложно представить, как человечество может жить без ИИ, который за считанные годы прочно вошел во многие сферы человеческой деятельности. С его помощью пишут свои работы школьники и студенты, создают материалы СМИ, снимают фильмы кинематографисты, корректируют лечение врачи, выбирают цели для ударов военные...
Круг применения искусственного интеллекта постоянно расширяется, и процесс этот уже не остановить. Ведь ИИ не ошибается, как думают многие...
Я периодически тестирую различные версии ИИ от разных разработчиков в области создания текстов и всегда поражаюсь фейкам, которые он удачно камуфлирует под правду. Подтверждает несуществующими цитатами вымышленных или, наоборот, реальных авторов. Дает ссылки на источники, в которых (на самом деле) никаких подтверждений нет. Вплетает вымысел в череду общеизвестных фактов. И в первом приближении всё действительно выглядит достоверно.
И это пугает...
Теперь ученые-математики забили тревогу, увидев в искусственном интеллекте угрозу математике как дисциплине. Всё началось с того, что в конце мая компания OpenAI, создавшая ChatGPT, объявила, что одна из ее моделей опровергла известную математическую гипотезу 80-летней давности в области комбинаторной геометрии.
Гипотеза входит в число примерно 1 200 математических задач, сформулированных выдающимся венгерским учёным Палом Эрдёшем. Как отмечает The New York Times, среди так называемых «задач Эрдёша» есть как узкоспециальные вопросы второстепенного значения, так и по‑настоящему фундаментальные проблемы, во многом определившие развитие современной математики. К публикации исследования с доказательством OpenAI добавила специальную статью, подготовленную группой независимых математиков.
Это действительно впечатляющая работа, и я без колебаний согласился бы опубликовать ее в любом журнале, - заявил математик Джейкоб Цимерман из Университета Торонто.
Но далеко не все ученые столь восторженно встретили данную новость.
Это мощный инструмент, и я думаю, что он станет отличным подспорьем для ускорения математических исследований, - отметила математик из Гарварда Мелани Матчетт Вуд.
При этом она уточнила, что ученому сообществу еще предстоит выяснить, как использовать искусственный интеллект “таким образом, чтобы поддерживать человеческое понимание математики”.
Опасение ученых вылилось в создание и подписание Лейденской декларации, в основе которой стояли 16 экспертов, высказавших опасения, что технология искусственного интеллекта угрожает математике как дисциплине. Проконсультировавшись со многими авторитетными коллегами и математическими организациями по всему миру, они сформулировали основные постулаты о взаимодействии ИИ и математики.
В результате Декларацию поддержали более 150 выдающихся ученых, призвавших не верить, что технологии машинного обучения могут совершить научный прорыв.
Дело в том, что современные системы ИИ способны создавать правдоподобные рассуждения, но при внимательной проверке оказываются ошибочными. Проблема усугубляется тем, что неправильное доказательство бывает трудно отличить от корректного, даже в случае проверки экспертами.
Для точных наук, включая математику, опасность особенно серьезна. Новые работы часто опираются на предыдущие результаты, поэтому ошибка в основе может испортить целую цепочку дальнейших исследований. Если научные статьи начнут строиться на неподтвержденных выводах ИИ, привычная система проверки доказательств столкнется с перегрузкой, а прозрачность и воспроизводимость результатов окажутся под угрозой.
Математики особо подчеркнули, что технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Они хотят быстрее показывать успехи моделей, привлекать внимание инвесторов, усиливать позиции на рынке и влиять на политиков. Авторы посоветовали политикам при принятии решений консультироваться с математиками и другими экспертами, а не верить пресс-релизам или публикациям в СМИ о математических достижениях.
Математики не призывают отказаться от ИИ в исследованиях. Декларация требует другого подхода: меньше рекламного шума, больше открытых данных, независимой проверки и ответственности за громкие заявления. ИИ может помогать искать идеи, проверять варианты и ускорять рутинную работу, но математическое доказательство по-прежнему должно выдерживать строгую экспертную проверку, а не только выглядеть убедительно в пресс-релизе.
Вот только касается такой подход не только математики. Как считаете?
Уважаемые читатели, сегодня ваша помощь - единственный шанс канала на выживание. Оставить благодарность и поддержать канал можно, нажав на кнопку "Поддержать" под статьей. Или перейдя по ССЫЛКЕ
Мы в Мах ЗДЕСЬ. Подписывайтесь
Еще по теме:
Спасибо, что дочитали до конца.
__________________________________
Подписывайтесь на наш канал, чтобы не пропустить интересные материалы. Для этого достаточно нажать на кнопку.
Понравилась статья - с вас лайк)