МГУ представит инструменты борьбы с "галлюцинациями" и токсичностью ИИ

СИРИУС /федеральная территория/, 27 ноября. /ТАСС/. Исследовательский центр в сфере искусственного интеллекта МГУ имени М. В. Ломоносова к концу 2026 года завершит работу над технологиями, снижающими долю ошибок ИИ-систем за счет совершенствования методов обучения и архитектуры таких моделей. Об этом на полях V Конгресса молодых ученых сообщил ТАСС директор центра Григорий Боков.

"Термин "галлюцинации" применяется в случаях, когда нейросеть ошибается. Если это большая языковая модель, то это могут быть ситуации, когда она выдумывает факты или ссылается на несуществующие научные статьи. С развитием ИИ-систем и расширением сфер их внедрения опасность "галлюцинаций" будет возрастать, так как даже одна ошибка такого интеллектуального помощника может нанести многомиллионный ущерб компании. Это касается и бизнеса, и банковской сферы, и госуслуг. Мы разрабатываем комплекс инструментов, способствующих сокращению ошибок за счет сразу нескольких подходов. Результат будет представлен в конце 2026 года", - сообщил Боков корреспонденту ТАСС.

Ученый указал на то, что в рамках проекта разрабатываются новые подходы к обучению нейросетей, которые предполагают создание систем, направляющих развитие моделей - своеобразных "ИИ-учителей". МГУ также представит методы совершенствования архитектур таких решений, недостатки которых часто выступают причиной ошибок.

Исследовательский центр в сфере искусственного интеллекта создан на базе МГУ в 2025 году в рамках федерального проекта "Искусственный интеллект" нацпроекта "Экономика данных и цифровая трансформация государства". Как один из победителей третьей волны отбора, организуемого Минэкономразвития, центр получил грант на развитие проектов в размере 645 млн руб. Поддержка рассчитана на два года.

Новое подразделение станет ключевым элементом развиваемой вузом экосистемы ИИ, состоящей из Института искусственного интеллекта, Научно-образовательной школы по этому направлению, факультета ИИ МГУ, фонда "Интеллект" и Центра хранения и анализа больших данных, а также суперкомпьютера "МГУ-270", позволяющего решать сложные задачи в области искусственного интеллекта, медицины и материаловедения.

О конгрессе

Событие в рамках Десятилетия науки и технологий в России организуют Фонд Росконгресс, Минобрнауки РФ и Координационный совет по делам молодежи в научной и образовательной сферах Совета при президенте РФ по науке и образованию. Оператор Десятилетия науки и технологий - АНО "Национальные приоритеты".

ТАСС - генеральный информационный партнер конгресса.