Китайский технологический гигант Baidu представил прорыв в области искусственного интеллекта, который может сделать языковые модели более надежными и заслуживающими доверия. Исследователи компании создали новую систему “саморазумеяния”, позволяющую системам искусственного интеллекта критически оценивать свои собственные знания и процессы принятия решений.
Новый подход, подробно описанный в статье, опубликованной на arXiv, решает постоянную проблему искусственного интеллекта: обеспечение фактической точности больших языковых моделей. Эти мощные системы, лежащие в основе популярных чат-ботов и других инструментов искусственного интеллекта, продемонстрировали замечательные возможности в создании текстов, похожих на человеческие. Однако они часто борются с непротиворечивостью фактов, уверенно выдавая неверную информацию — явление, которое исследователи искусственного интеллекта называют “галлюцинацией”.
“Мы предлагаем новую систему саморассуждения, направленную на повышение надежности и отслеживаемости поисковых дополненных языковых моделей (RALMs), основная идея которой заключается в использовании траекторий рассуждений, генерируемых самим LLM”, - объяснили исследователи. “Фреймворк включает в себя построение саморазумеющихся траекторий с помощью трех процессов: процесса, учитывающего актуальность, процесса отбора с учетом фактических данных и процесса анализа траекторий”.
Работа Baidu посвящена одной из самых актуальных проблем в разработке искусственного интеллекта: созданию систем, которые могут не только генерировать информацию, но и проверять ее и контекстуализировать. Благодаря внедрению механизма саморазумления этот подход выходит за рамки простого поиска и генерации информации, переходя в сферу систем искусственного интеллекта, которые могут критически оценивать свои собственные результаты.
Эта разработка представляет собой переход от рассмотрения моделей искусственного интеллекта как простых механизмов прогнозирования к рассмотрению их как более сложных систем рассуждений. Способность к саморазумлению может привести к созданию искусственного интеллекта, который будет не только более точным, но и более прозрачным в процессах принятия решений, что является важным шагом на пути к укреплению доверия к этим системам.
Как самодостаточный ИИ Baidu перехитрил галлюцинации
Инновация заключается в обучении ИИ критически анализировать свой собственный мыслительный процесс. Сначала система оценивает соответствие полученной информации заданному запросу. Затем она выбирает и цитирует соответствующие документы, как это сделал бы исследователь-человек. Наконец, искусственный интеллект анализирует свой путь рассуждения, чтобы сгенерировать окончательный, хорошо обоснованный ответ.
Этот многоступенчатый подход позволяет модели более разборчиво относиться к используемой информации, повышая точность и обеспечивая более четкое обоснование своих выходных данных. По сути, искусственный интеллект учится демонстрировать свою работу — важнейшая функция для приложений, где прозрачность и подотчетность имеют первостепенное значение.
В оценках по нескольким наборам данных для ответов на вопросы и проверки фактов система Baidu превзошла существующие современные модели. Возможно, наиболее примечательно то, что он достиг производительности, сравнимой с GPT-4, одной из самых передовых систем искусственного интеллекта, доступных в настоящее время, при использовании всего 2000 обучающих выборок.
Демократизация искусственного интеллекта: эффективный подход Baidu может выровнять условия игры
Такая эффективность может иметь далеко идущие последствия для индустрии искусственного интеллекта. Традиционно для обучения продвинутым языковым моделям требуются массивные наборы данных и огромные вычислительные ресурсы. Подход Baidu предлагает путь к разработке высокопроизводительных систем искусственного интеллекта с гораздо меньшим объемом данных, потенциально демократизируя доступ к передовым технологиям искусственного интеллекта.
За счет снижения требований к ресурсам для обучения сложных моделей искусственного интеллекта этот метод может выровнять условия игры в исследованиях и разработках искусственного интеллекта. Это может привести к росту инноваций со стороны небольших компаний и исследовательских институтов, которым ранее не хватало ресурсов, чтобы конкурировать с технологическими гигантами в области разработки искусственного интеллекта.
Однако крайне важно сохранять сбалансированную точку зрения. Хотя система саморазумеяния представляет собой значительный шаг вперед, системам искусственного интеллекта по-прежнему не хватает тонкого понимания и контекстуальной осведомленности, которыми обладают люди. Эти системы, какими бы продвинутыми они ни были, по сути, остаются инструментами распознавания образов, работающими с огромными объемами данных, а не объектами с истинным пониманием или сознанием.
Потенциальные области применения технологии Baidu значительны, особенно для отраслей, требующих высокой степени доверия и подотчетности. Финансовые учреждения могли бы использовать его для разработки более надежных автоматизированных консультационных услуг, в то время как поставщики медицинских услуг могли бы использовать его для более надежной диагностики и планирования лечения.
Будущее искусственного интеллекта: заслуживающие доверия машины в процессе принятия важных решений
По мере того, как системы искусственного интеллекта все больше интегрируются в важнейшие процессы принятия решений во всех отраслях, потребность в надежности и объяснимости становится все более насущной. Система самообсуждения Baidu представляет собой значительный шаг к решению этих проблем, потенциально прокладывая путь к более надежному ИИ в будущем.
Теперь задача заключается в распространении этого подхода на более сложные задачи рассуждения и дальнейшем повышении его надежности. Поскольку гонка вооружений в области искусственного интеллекта среди технологических гигантов продолжает набирать обороты, инновация Baidu служит напоминанием о том, что качество и надежность систем искусственного интеллекта могут оказаться столь же важными, как и их исходные возможности.
Эта разработка поднимает важные вопросы о будущем направлении исследований в области искусственного интеллекта. По мере продвижения к более сложным саморазумеющимся системам нам, возможно, придется пересмотреть наши подходы к этике и управлению искусственным интеллектом. Способность искусственного интеллекта критически анализировать собственные результаты может потребовать новых рамок для понимания процесса принятия решений и подотчетности искусственного интеллекта.
В конечном счете, прорыв Baidu подчеркивает быстрые темпы развития технологий искусственного интеллекта и потенциал инновационных подходов для решения давних проблем в этой области. Поскольку мы продолжаем расширять границы возможного с помощью искусственного интеллекта, решающее значение будет иметь сбалансированность стремления к созданию более мощных систем с потребностью в надежности, прозрачности и этических соображениях.