«Сбер» представил технологию, которая определяет, создан ли тот или иной текст человеком или же он сгенерирован с помощью искусственного интеллекта
Демо-версия GigaCheck уже доступна для тестирования на сайте и в боте Telegram. Разработчики отмечают, что технология будет полезна людям, проверяющим подлинность дипломов, диссертаций и прочих научных работ. Пригодится она и для определения комментариев, сгенерированных нейросетями, а также редакторам, принимающим работу копирайтеров или писателей.
Текст оценивается по типу преобладающего контента. В активной разработке «Сбера» вдобавок находится улучшение технологии, которое позволит производить интервальный поиск. Его выпустят «в обозримой перспективе». Что касается возможности обмануть ИИ-детектор, то в любой области нет предела совершенству и всегда можно найти способ, тем более в случае ML-модели, отмечают в «Сбере».
«Задача нашей технологии — иметь такой уровень качества работы, что для обхода текст придется исказить до степени неприменимости в реальных задачах. Например, диплом с разбросанными символами «;» просто не пройдёт нормоконтроль, а такой комментарий в паблике сразу будет выделяться», — отметили разработчики сервиса. После официального запуска «Сбер» предоставит API для интеграции технологии.
Здесь мы рассказываем, как пользоваться ChatGPT из России:
Freepik