В 2025 году десять крупнейших AI-инструментов в 35% случаев повторяют неправильную информацию — почти вдвое чаще, чем в 2024-м. 😮
Одна из причин ухудшения качества работы искусственного интеллекта — обучение на сгенерированном контенте. Чат-боты ссылаются на материалы, созданные другими чат-ботами. Это ведёт к стагнации, а со временем и деградации LLM-моделей.
Запасы данных, созданных людьми, постепенно иссякают. По мнению аналитиков, они могут закончиться полностью в ближайшие годы.
Дмитрий Григоров, директор по искусственному интеллекту и данным, старший вице-президент Альфа-Банка, поделился своим мнением по этому поводу. Дефицит данных — вызов, который сохранится в обозримом будущем, однако он не станет существенной проблемой для конечных пользователей. Искусственный интеллект — это не только чат-боты, но и обширный спектр моделей, интегрированных в продукты и бизнес-процессы компаний.
Для обеспечения высокой точности и надёжности в Альфа-Банке применяют системный подход:
— Обеспечивают высокое качество данных для обучения моделей, развивая как инструменты хранения, так и передовые методы обработки.
— Развивают технологии автоматического переобучения моделей AutoML, что позволяет предотвращать их деградацию.
— Внедряют технологию RAG, предоставляющую AI доступ к актуальным и обновляемым данным, выходящим за пределы тренировочного датасета. Такой подход значительно снижает риск «галлюцинаций» у языковых моделей.
— Используют комбинации моделей для повышения точности и устойчивости.