Gartner предупреждает: экспоненциальный рост данных от ИИ угрожает надежности больших языковых моделей (LLM). Аналитики прогнозируют, что к 2028 году 50% компаний примут политику нулевого доверия к данным из-за риска «сбоя модели». Эксперты настаивают на верификации всего контента и развитии инструментов управления метаданными.
Аналитическое агентство Gartner предупреждает, что растущий объем данных, генерируемых искусственным интеллектом (ИИ), ставит под угрозу будущее доверие к большим языковым моделям (LLM).
Ситуация настолько серьезна, что Gartner прогнозирует: к 2028 году 50% организаций внедрят подход нулевого доверия (zero-trust) для управления данными из-за массового распространения непроверенного контента, созданного ИИ.
Согласно данным недавнего опроса ИТ-директоров и руководителей технологических подразделений, проведенного в 2026 году, 84% ожидают увеличения финансирования генеративного ИИ в своих компаниях. По мере того как организации ускоряют внедрение ИИ и инвестиции в него, объем генерируемых им данных будет неуклонно расти. Это означает, что будущие поколения LLM будут все чаще обучаться на результатах работы предыдущих моделей, что повышает риск «сбоя модели», когда ответы ИИ-инструментов могут перестать точно отражать реальность.
«Организации больше не могут молча доверять данным или предполагать, что они созданы человеком. Поскольку данные, сгенерированные ИИ, становятся повсеместными и неотличимыми от созданных человеком, позиция нулевого доверия, устанавливающая меры аутентификации и верификации, становится абсолютно необходимой для защиты бизнес-результатов и финансового положения», — заявил Ван Фуй Чан, исполнительный вице-президент Gartner, в своем заявлении.
Чан также отметил, что «регуляторные требования к верификации данных, не содержащих ИИ, как ожидается, ужесточатся в ряде регионов».
«Однако эти требования могут существенно различаться в разных географических зонах: одни юрисдикции будут стремиться к более жесткому контролю над контентом, созданным ИИ, в то время как другие могут выбрать более гибкий подход», — добавил Чан в пресс-релизе.
LLM, как правило, обучаются на данных, извлеченных из интернета, а также из множества других источников, включая книги, репозитории кода и научные статьи. Часть этих источников уже содержит контент, созданный ИИ, и если текущая тенденция сохранится, в конечном итоге почти все они будут заполнены данными, сгенерированными искусственным интеллектом.
«В этой развивающейся нормативной среде, — продолжил Чан, — всем организациям потребуется возможность идентифицировать и помечать данные, созданные ИИ. Успех будет зависеть от наличия надлежащих инструментов и штата сотрудников, обладающих навыками в области управления информацией и знаниями, а также решений по управлению метаданными, которые необходимы для каталогизации данных».
В результате, по мнению Gartner, проактивные практики управления метаданными станут ключевым фактором дифференциации, поскольку они позволят организациям анализировать, оповещать и автоматизировать принятие решений по всем своим активам данных.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Víctor Manuel Fernández