ИИ - это технология, которая может выполнять задачи, которые раньше считались исключительной областью людей. Однако, как и с любой новой технологией, есть опасности, на которые нужно обратить внимание. Одна из таких опасностей - это концепция стохастических попугаев.
Термин «стохастические попугаи» был введен Эмили М. Бендер и используется в машинном обучении и искусственном интеллекте для описания моделей, которые могут точно повторять статистические закономерности в обучающих данных, но не могут обобщать эти знания на новые ситуации. Это означает, что такие модели могут "воспроизводить" обучающие данные, но не могут использовать свои знания для решения новых задач
Феномен Стохастических попугаев возникает, когда компьютерная программа, называемая языковой моделью, учится говорить как человек, но на самом деле не понимает, что говорит. Это похоже на то, когда вы копируете чьи-то слова, толком не понимая, что они означают.
Например, представьте, что вы пытаетесь выучить новый язык, слушая разговоры людей. Если вы просто копируете то, что они говорят, не понимая слов и грамматики, вы можете в конечном итоге повторять вещи, которые не имеют смысла, или использовать слова неправильно.
Проблема стохастических попугаев может рассматриваться общая проблема в ИИ и машинного обучения : как гарантировать, что модели действительно обучаются и рассуждают, а не просто запоминают закономерности в данных? Модель машинного обучения может казаться хорошо справляющейся при тестировании на знакомых данных, но столкнувшись с новыми ситуациями, она может потерпеть неудачу. Эта проблема становится особенно острой, поскольку модели продолжают расти в размерах и сложности, а также по мере того, как они все чаще используются в приложениях с высокими ставками, таких как здравоохранение, финансы и транспорт.
Именно поэтому, когда мы говорим об искусственном интеллекте – на самом деле мы не подразумеваем "интеллект". Модели не способны к истинным рассуждениям или пониманию и склонны к ошибкам и предубеждениям. Они могут увековечивать стереотипы и другие проблемные модели языка и не всегда прозрачны в отношении того, как они приходят к своим ответам.
Но несмотря на эти ограничения, такие модели, как GPT-3.5, GPT-4 и Google BARD, являются одними из самых впечатляющих достижений в области ИИ и НЛП на сегодняшний день и вызывают большой интерес.