МОСКВА, 21 сентября. /ТАСС/. Исследователь из России разработал математическую теорему и алгоритм на ее основе, который позволяет заранее оценить, насколько корректно ИИ может использовать знания, полученные при решении одного класса проблем, для решения новых задач. Этот подход повысит надежность ИИ, применяемых в медицине, транспорте и робототехнике, сообщила ТАСС пресс-служба НИТУ МИСИС.
"Предложенный математический аппарат может стать основой для создания более надежных систем ИИ, особенно в тех сферах, где ошибки недопустимы. В дальнейшем метод может использоваться для проверки алгоритмов еще до их внедрения в реальные системы, что позволит сделать технологии искусственного интеллекта более предсказуемыми и безопасными", - пояснил сотрудник Института новых материалов НИТУ МИСИС Никита Никитин, чьи слова приводит пресс-служба вуза.
Как объясняет ученый, более широкому применению различных систем машинного обучения пока мешает то, что обычно нейросети и другие формы ИИ приспособлены к решению набора конкретных задач и анализу конкретных наборов данных. Для их применения в других областях науки и техники обычно используются сложные подходы по переобучению, позволяющие научить модель использовать уже накопленные знания для решения новых классов задач, однако до настоящего времени инженеры не могли заранее оценить точность переобученного ИИ.
Для решения этой проблемы Никитин разработал теорему, которая описывает условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, основанных преимущественно на экспериментальной проверке, новый подход позволяет заранее получить формальное математическое доказательство того, что перенос будет корректным.
В основе работы лежит аппарат математической логики, который широко применяется для проверки правильности сложных компьютерных систем. Ученый адаптировал его для задач искусственного интеллекта, связав процесс переноса знаний с логикой Хоара, одним из самых известных методов формальной верификации программ. Благодаря этому стало возможным не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.
Работу данного подхода Никитин проверил на нейросети, способной распознавать рукописные цифры. Обучив эту систему на одном наборе данных, ученый оценил то, насколько эффективно она справится с распознаванием похожих, но других рукописных изображений с иным числом пикселей и элементов. Разработанная им теорема позволила значительно повысить точность работы адаптированной версии системы ИИ с новым типом данных, что указывает на большие перспективы ее практического применения, подытожил ученый.