Программное обеспечение окружает нас повсюду, управляя почти всеми аспектами жизни. Только в вашем автомобиле компьютерные системы содержат десятки миллионов строк кода. Цифровая трансформация общества продолжается, а это значит, что спрос на качественное программное обеспечение будет только расти.
Переведено, но не озвучено командой LearnMore.tech с сайта https://techxplore.com/
Проблема в том, что программистов просто не хватает, чтобы писать весь этот код. Поэтому все больше программ создается при помощи искусственного интеллекта (AI).
Разработчики уже активно используют инструменты, такие как GitHub Copilot – своего рода ChatGPT для программистов. Он помогает работать, увеличивая продуктивность.
Однако нас ждет еще более радикальная революция – появление AI-агентов, способных выполнять множество задач по разработке ПО вместо людей. AI-агенты – это программы, использующие искусственный интеллект для достижения целей, поставленных человеком. Они могут обучаться и принимать решения с определенной степенью автономности, но пока остаются под контролем людей.
Будущее разработки: программирование без программистов?
Мы прогнозируем, что в ближайшем будущем большинство программных приложений будут полностью создаваться AI-агентами. Так называемые агентные системы представляют собой сообщества AI-агентов, где каждый специализируется на своей задаче. В таких системах можно будет создавать программы, просто описав их на естественном языке.
Эта технология несет как плюсы, так и серьезные риски:
- Плюсы – программирование станет доступным даже для людей без технических навыков.
- Минусы – AI-агенты далеки от совершенства: они могут генерировать уязвимый код, неэффективные алгоритмы и даже решения, содержащие предвзятость.
Например, если AI создаст программу для отбора кандидатов на работу, она может отдавать предпочтение мужчинам перед женщинами, если обучена на необъективных данных. Чтобы минимизировать такие риски, необходимо разрабатывать механизмы защиты – их уже требует европейский закон AI Act.
Как научить ИИ создавать безопасное ПО?
Исследователи уже тестируют большие языковые модели (LLM), которые лежат в основе AI-агентов. LLM – это системы, обученные на огромных массивах данных. Они прогнозируют и генерируют наилучшие ответы на запросы пользователей.
Чтобы AI-агенты работали корректно, разработчики проверяют LLM на точность, безопасность и предвзятость. Выбор подходящей модели зависит от задач, которые будет решать агент.
Но даже это не гарантирует, что AI-агенты будут следовать нашим инструкциям. Один из решений – создание понятных схем (чертежей) программ перед их генерацией.
Как можно понять схему дома, даже не будучи архитектором, так и понятный чертеж программы поможет пользователю понять ее структуру и даже внести изменения.
На основе описания пользователя AI-агент предложит подробный план будущей программы и объяснит его понятным языком. После согласования система автоматически создаст приложение.
Такой подход называется low-code/no-code – в нем код пишется не вручную, а генерируется компьютером. Наша open-source платформа BESSER уже позволяет создавать ПО таким образом.
Магия или хаос?
Писатель-фантаст Артур Кларк однажды сказал:
«Любая достаточно развитая технология неотличима от магии».
Возможно, вскоре магия AI-программирования станет частью повседневной жизни. Главное – не допустить, чтобы она превратилась в разрушительное колдовство.
Мы, как и многие другие исследователи, разрабатываем механизмы защиты для контроля AI-агентов. Если эти механизмы будут работать, каждый человек сможет стать разработчиком, создавая свои собственные программные решения без необходимости в коде.
Будущее программирования уже наступает – вопрос в том, кто в нем будет править: человек или искусственный интеллект?
От редакции LearnMore:
Подпишись на наш тг-канал, чтобы быть в курсе актуальных IT-новостей 😉