IBM в декабре запустит решение для обеспечения достоверной выдачи ИИ-моделей

Москва. 14 ноября. INTERFAX.RU - Американская International Business Machines (IBM) в начале декабря выведет на рынок решение watsonx.governance для контроля за достоверностью информации, генерируемой моделями искусственного интеллекта (ИИ), говорится в пресс-релизе компании.

По данным Barron's, доступ к платформе откроют 5 декабря. Изначально она будет работать с большими языковыми моделями (LLM) самой IBM, а также LLM из репозитория (хранилища данных - ИФ) ИИ-стартапа HuggingFace и моделью Llama 2, выпущенной Meta (признана в РФ экстремистской организацией и запрещена). Поддержка других моделей появится в начале следующего года.

Watsonx.governance поможет компаниям обеспечить непредвзятость и фактическую точность информации, генерируемой ИИ-моделями, пишет издание.

Платформа входит в семейство программ watsonx, представленное ранее в этом году и включающее также решения для работы с данными (watsonx.data) и обучения ИИ-моделей (watsonx.ai).

"Генеративный (создающий контент - ИФ) ИИ, в основе которого лежат большие языковые или базовые модели (foundation models), открывает множество возможностей перед бизнесом, но также создает риски и трудности, в том числе связанные с обучением этих моделей на данных, собранных по крупицам из разных уголков интернета, которые невозможно с уверенностью назвать справедливыми и достоверными, - отмечается в пресс-релизе IBM. - Все это приводит к выдаче необъяснимых результатов. Watsonx.governance предоставляет организациям набор инструментов, необходимый для управления рисками, а также обеспечения прозрачности и соответствия будущим нормативным актам в сфере ИИ".

В конце октября президент США Джо Байден издал указ, обязывающий разработчиков наиболее мощных систем искусственного интеллекта предоставлять властям информацию о результатах их проверки на безопасность.

"Ни одна страна мира до сих пор не вводила в действие таких сильных мер в области ИИ-безопасности и обеспечения доверия к этим технологиям, какие вводит президент Байден, - цитировала Financial Times слова замглавы аппарата Белого дома Брюса Рида. - Это очередной шаг в рамках агрессивной стратегии, требующей прилагать на каждом направлении все усилия для извлечения выгоды из ИИ и снижения сопутствующих рисков".

По мнению старшего вице-президента IBM Software по управлению продуктами и их развитию Карима Юсуфа, чьи слова приводятся в пресс-релизе IBM, риски, связанные с недостаточной прозрачностью ИИ-моделей и невозможностью контролировать достоверность результатов их применения, сдерживают компании на пути к внедрению таких моделей.