Эксперт Душкин: понять, что искуственный интеллект начал деградировать, непросто

РИАМО - 3 июл. На первых порах деградация искусственного интеллекта будет плохо видна, сообщил РИАМО генеральный директор «А-Я эксперт», разработчик искусственного интеллекта Роман Душкин.

Ранее ряд ученых заявил, что уже скоро качество нейросетей может начать стремительно деградировать. Причиной этого станет обилие в Сети контента, ранее сгенерированного ИИ-моделями.

«Я бы не сказал, что это легко можно распознать. На первых порах это будет сложно. Не то, что сложно, но это будет плохо видно. Но при этом существуют метрики качества работы системы искусственного интеллекта. Для ученых, для инженеров эти метрики не секрет, они давно разработаны», – сказал Душкин.

Он пояснил, что когда системы искусственного интеллекта создаются и выпускаются в свет, они сначала тщательно тестируются на предмет этих метрик. Эти же метрики, возможно, с какими-то модификациями будут использоваться для того, чтобы проверять, тестировать эти нейросетевые решения на предмет старта деградации.

«Наверняка разберемся, то есть будет придумана какая-нибудь новая метрика, которая будет учитывать, насколько система хорошо занимается исправлением своих ошибок, не допускает ли она фактологические ошибки – над этим сейчас ведется работа», – добавил эксперт.

Он рассказал, что, например, «Яндекс» сейчас проводит набор тренеров систем искусственного интеллекта. Пройти его может не каждый.

«Достаточно жесткое сито отбора, вопросы такие, что не каждый сможет ответить. «Яндекс» как технологическая компания, прекрасно понимает, что люди, которые должны обучать искусственный интеллект, должны быть в первую очередь грамотными. Они должны очень тщательно и трепетно относиться к тем текстам, которые будут в систему искусственного интеллекта на этапе обучения вноситься», – отметил Душкин.