На ICML-2025 исследователи из Cornell, MIT CSAIL, Stanford и UC Berkeley заявили то, о чём многие разработчики догадывались на практике: ИИ-кодеры ещё не готовы заменить человека. Да, они умеют писать функции, чинить мелкие баги и генерировать документацию. Но как только дело доходит до миллионов строк кода, сложной логики и долгосрочного планирования архитектуры — LLM спотыкаются.
⚠️ Главные проблемы сегодняшних AI-ассистентов
- 🧩 Огромные кодовые базы: модели не удерживают в голове миллионы строк, «забывают» важные части контекста.
- 🕸️ Сложная логика: при отладке памяти ИИ может предложить «фиксы», не понимая корневой причины. Часто это «галлюцинации» — правдоподобные, но неверные объяснения.
- ⏳ Долгосрочное проектирование: архитектурные решения требуют системного мышления и общей картины, чего у моделей пока нет.
- 🤔 Недостаток интерфейсов: программисты тратят время на «промпт-инжиниринг», вместо того чтобы сосредоточиться на задаче.
🔑 Что предлагают исследователи
- 📢 ИИ должен уметь признавать неопределённость: «Я не уверен, проверьте сами» лучше, чем молчаливое создание багов.
- ❓ Запрос уточнений: если инструкция неясна — спроси, а не придумывай.
- 🧑🤝🧑 Совместный словарь: нужен общий язык взаимодействия человека и ИИ, аналогичный профессиональному диалогу внутри команды.
- 🛠️ Новые интерфейсы: не только промпты, но и более гибкие способы объяснять задачу, возможно, через визуальные или структурные DSL.
🤔 Моё мнение
Идея, что ИИ станет полноценным «членом команды разработчиков», звучит красиво, но реальность пока ближе к роли младшего стажёра. Он может помочь с рутиной, но за ним нужно внимательно следить.
Однако именно здесь кроется точка роста:
- 🔄 интеграция с CI/CD, где ИИ предлагает патчи, но человек утверждает;
- 🧭 использование метрик доверия — вероятность правильности ответа, калибровка ошибок;
- 🤖 переход от «ассистента по коду» к агентам, которые понимают требования и проверяют выполнение контрактов.
Главное — сместить фокус: ИИ не заменяет инженера, а помогает ему думать на более высоком уровне абстракции. В этом смысле полноценная автоматизация кодинга не убирает людей, а переводит их в роль архитекторов и кураторов.
🚀 Куда дальше
Некоторые исследователи видят будущее в эволюционных подходах — генетических алгоритмах для улучшения кода, где решения «размножаются» и отбираются лучшие. Другие делают ставку на агентные системы, которые будут работать ближе к требованиям бизнеса, а не к отдельным строчкам кода.
Но при любой архитектуре вопрос доверия остаётся ключевым. Никто не захочет пускать «чёрный ящик» в продакшн без проверки человеком.
🔗 Источник: IEEE Spectrum — AI’s coding evolution hinges on collaboration and trust