Ученый Боков: в мире нет высокоточных систем определения сгенерированных ИИ текстов

СИРИУС /федеральная территория/, 26 ноября. /ТАСС/. Существующие сервисы проверки текстов на уникальность пока не могут с высокой точностью определять следы применения нейросетей. В будущем эта проблема может быть решена за счет ИИ-верификаторов, ориентированных на каждую из популярных языковых моделей, сказал ТАСС на полях V Конгресса молодых ученых директор Исследовательского центра в сфере искусственного интеллекта МГУ имени М. В. Ломоносова Григорий Боков.

"Для специалистов в этой области текстовый ответ нейросети выглядит как облако точек в многомерном пространстве. По их распределению мы можем понять, что контент сгенерирован ИИ. Такие методы проверки уже применяются, но они пока несовершенны и скорее показывают вероятность применения нейросети для написания текста. При этом есть определенные ситуации, при которых система может сделать ошибочный вывод <…>. Так что высокоточного верификатора для определения текстов, сгенерированных нейросетями, пока не существует", - сказал ученый корреспонденту ТАСС.

В будущем эту проблему могут решить нейросети-контролеры, создаваемые для каждой из популярных больших языковых моделей, таких как ChatGPT и DeepSeek, считает он.

"Если поставить задачу обнаружения следов редактуры текста, выполненной нейросетью, то ее решение тоже возможно. А вот с верификацией его содержания пока способен справиться только человек. В лучшем случае нейросеть может при правильно сформулированных запросах указать на места в тексте, которые могут быть неточными", - добавил он.

Отвечая на вопрос ТАСС о том, стоит ли вводить ограничения использования нейросетей для студентов, он предупредил, что такой запрет скорее навредит им, чем принесет пользу.

"Это инструмент: его можно использовать и во вред, и во благо. Раз он уже широко распространен, то нужно совершенствовать методы преподавания и контроля успеваемости, а не запрещать его вовсе. Если студенты пишут рефераты с ChatGPT, пусть и код напишут. Мы такие подходы применяем. В этом случае студенты не перекладывают свои обязанности на чат-бот, а учатся в нем разбираться и решать с его помощью более сложные задачи", - заключил Боков.

О центре

Исследовательский центр в сфере искусственного интеллекта создан на базе МГУ в 2025 году в рамках федерального проекта "Искусственный интеллект" нацпроекта "Экономика данных и цифровая трансформация государства". Как один из победителей третьей волны отбора, организуемого Минэкономразвития, центр получил грант на развитие проектов в размере 645 млн руб. Поддержка рассчитана на два года.

Новое подразделение станет ключевым элементом развиваемой вузом экосистемы ИИ, состоящей из Института искусственного интеллекта, научно-образовательной школы по этому направлению, факультета ИИ МГУ, фонда "Интеллект" и Центра хранения и анализа больших данных, а также суперкомпьютера "МГУ-270", позволяющего решать сложные задачи в области искусственного интеллекта, медицины и материаловедения.

О конгрессе

Событие в рамках Десятилетия науки и технологий в России организуют Фонд Росконгресс, Минобрнауки РФ и Координационный совет по делам молодежи в научной и образовательной сферах Совета при президенте РФ по науке и образованию. Оператор Десятилетия науки и технологий - АНО "Национальные приоритеты".

ТАСС - генеральный информационный партнер конгресса.