Специализированные ИИ-модели для кибербезопасности, подобные американскому Claude Mythos, в ближайшее время могут появиться в России и Китае. Принцип их создания уже понятен ученым, а сама технология не требует принципиально новых открытий. Декан факультета искусственного интеллекта МГУ Иван Оселедец на ПМЭФ объяснил Наука Mail, почему такие системы изменят подход к разработке программного обеспечения.
Искусственный интеллект постепенно осваивает новую профессию. Раньше он в основном генерировал код. Теперь он учится его проверять на безопасность. Американская компания Anthropic недавно представила Claude Mythos — модель, специализированную на задачах кибербезопасности и анализа программ. В России задались вопросом: нужно ли создавать нечто подобное? Ответ экспертов однозначный: да, и это лишь вопрос времени.
Иван Оселедец в разговоре с корреспондентом Наука Mail заявил, что основной фокус сейчас должен быть направлен на развитие собственных технологий. В том числе — на создании решений, аналогичных по задачам Claude Mythos.
По словам Оселедца, в системе Anthropic нет ничего революционного с технологической точки зрения. Разработчики не изобрели принципиально новый тип искусственного интеллекта. Они взяли существующую модель и тонко настроили ее под конкретную область — задачи кибербезопасности и анализа программного обеспечения.
«Это понятно, как делать, это понятно, как организовывать. С некоторым лагом это сделают и в Китае, и у нас», — уверен ученый.
Таким образом, появление российского аналога — дело недалекого будущего. Вопрос лишь в том, кто первым доведет свою версию до промышленного применения.
Оселедец обращает внимание на более важный тренд. Появление таких инструментов, как Claude Mythos, сигнализирует о смене парадигмы. Искусственный интеллект перестает быть просто «генератором кода». Он становится полноценным инструментом аудита и контроля качества.
В современных больших программных продуктах накопилось огромное количество ошибок и уязвимостей. Многие участки кода настолько сложны, что ни один человек не в состоянии их полностью проверить. И здесь ИИ может оказаться незаменимым.
Развитие систем безопасности на базе ИИ напрямую связано с дискуссией вокруг так называемого вайбкодинга — подхода, при котором пользователи создают программы с активным применением искусственного интеллекта. Многие критики видят в этом источник новых рисков: чем больше кода генерирует машина, тем больше в нем может быть скрытых проблем.
Оселедец придерживается иной позиции. По его словам, бояться вайбкодинга не стоит, потому что проблема ошибок существовала всегда, задолго до появления современных ИИ.
«Количество ошибок и закладок в текущем коде, многие из которых никто уже и не понимает, кроме искусственного интеллекта, очень большое. И искусственный интеллект может как раз помочь их и найти, и исправить», — объяснил Оселедец.
Иными словами, ИИ одновременно и создает потенциальные проблемы (генерируя код), и предлагает их решение (анализируя и проверяя).
Оселедец также обратил внимание на возможные скрытые мотивы создателей Claude Mythos. Компания Anthropic позиционирует свою новую модель как инструмент заботы о безопасности других компаний. Звучит благородно. Но эксперт предлагает взглянуть на ситуацию шире.
«Похвально, что Anthropic заботится о безопасности других компаний. Возможно, они это делают в том числе не из-за такого интереса к безопасности, а из-за того, чтобы поднять свою венчурную стоимость», — отметил он.
То есть выпуск специализированной ИИ-модели для кибербезопасности — это не только технологический прорыв, но и грамотный маркетинговый ход, повышающий привлекательность компании для инвесторов.
Окончательную оценку возможностям Claude Mythos и его будущим аналогам можно будет дать только после их реального практического применения. Однако само направление развития уже очевидно. Искусственный интеллект в сфере программного обеспечения обретает новую роль: не только творец, но и контролер, не только источник кода, но и инструмент его очистки от ошибок. И в этой новой реальности России предстоит найти свое место.
Автор: Анастасия Сокова