Всем привет!
Сегодня на TechCrunch прочитал довольно любопытную статью о том, что опытные программисты сталкиваются с необходимостью пересматривать свою привычную практику и активно заниматься контролем и коррекцией работы искусственного интеллекта, поскольку создаваемый им код часто содержит недостатки и требует значительных усилий для их устранения хотя в целом использование ИИ помогает повысить продуктивность и освободить время для решения стратегических задач.
Знакомая история, но все же лучше один раз прочитать..
Однажды Карла Ровер проплакала полчаса. Она поняла, что должна начать с нуля проект, который вела, полагаясь на вейб-кодинг (интуитивное программирование). Карла работает в сфере технологий уже 15 лет, в основном создавая сайты и приложения. Теперь у неё собственный стартап: вместе с сыном она разрабатывает уникальные системы искусственного интеллекта для онлайн-магазинов.
Карла сравнивает вейб-кодинг с чистым листом, в который можно бесконечно вносить изменения и идеи. Однако, по её словам, работать с моделями ИИ иногда сложнее, чем воспитывать ребёнка: созданный ими код может вести себя совершенно непредсказуемо.
Карла заинтересовалась ИИ, потому что он обещал ускорить разработку. В погоне за быстрым результатом она позволила системе автоматически создать необходимые файлы, пропустив этап тщательной проверки. Позже выяснилось, что спешка привела к множеству серьёзных дефектов.
«Я доверилась системе, как сотруднику, — вспоминает Карла. — Оказалось, это далеко не одно и то же».
Из-за этого весь проект пришлось начинать заново, что стало причиной стресса и разочарования. Подобная ситуация типична и для других опытных программистов, которым теперь приходится тратить дополнительное время на корректировку работы ИИ.
Недавнее исследование компании Fastly выявило любопытную тенденцию: большинство разработчиков тратят много времени на доработку и проверку кода, сгенерированного ИИ. Больше всего страдают специалисты с большим опытом.
Как это работает на практике?
Например, популярные сейчас сервисы позволяют создать упрощённый вариант готового сайта за несколько минут — достаточно написать пару строчек запроса. Затем алгоритм создаёт шаблон сайта, который программист должен адаптировать под нужды клиента. Казалось бы, это отличная возможность сократить сроки разработки, но на деле возникают многочисленные трудности.
Опытные специалисты отмечают множество проблем, с которыми сталкиваются при использовании ИИ: ошибки в именовании библиотек, удаление важных компонентов, потенциальные угрозы безопасности и даже нарушение структуры документа. Без надлежащего контроля качество итогового продукта становится значительно ниже.
Эта ситуация привела к появлению новой должности в компаниях — специалист по контролю качества искусственного кода, или «нейбор». Такие сотрудники занимаются исключительно устранением последствий автоматических решений.
Карла сравнивает внедрение нового инструмента с попыткой поручить шестилетнему ребёнку заварить чай. Он, конечно, кое-как справится, но, скорее всего, придётся исправлять последствия его действий.
Фаридун Малекзад, ещё один опытный разработчик, убеждён, что ИИ похож на подростка, который ещё не готов адекватно воспринимать поручения. По его мнению, это похоже на ситуацию, когда взрослому человеку приходится многократно повторять одну и ту же инструкцию своему сыну, но результат всё равно далёк от ожидаемого.
Сегодня Фаридун тратит значительную часть рабочего дня на описание требований к проекту, примерно пятая часть времени уходит на взаимодействие с ИИ, а оставшаяся треть — на исправление возникших проблем.
Размышляя о будущем технологии, оба эксперта сходятся во мнении: ИИ сегодня находится на этапе «младенчества» и нуждается в серьёзной модернизации.
Специалисты обеспокоены недостаточным уровнем системного мышления у современных инструментов ИИ. Как отмечает Фаридун, такой подход неизбежно приведёт к путанице не только у пользователей, но и у самих моделей, порождая внутренние конфликты и некорректные решения.
Ситуация усугубляется тем, что иногда модели ИИ выдают недостоверные данные, будучи уверенными в своей правоте. В результате доверие к ним снижается, и возникает необходимость постоянно проверять их работу.
Также отмечаются очевидные угрозы для безопасности данных. Остин Спайрес, один из участников исследования, предупреждает: автоматическое создание кода может приводить к тем же ошибкам, что совершают начинающие программисты, увеличивая вероятность появления уязвимых мест. Другие эксперты говорят о специфических киберрисках, которые особенно остро ощущают молодые компании и стартапы.
Для решения этих проблем компания NinjaOne ввела специальные меры: ограниченный доступ к ИИ-помощникам, обязательное коллегиальное рецензирование и регулярное тестирование безопасности.
Новая реальность
Большинство экспертов признают пользу ИИ в определённых аспектах, например, для быстрого создания прототипов или проверки гипотез. Однако все они подчёркивают важность человеческого контроля на этапе принятия финальных решений.
«Идея быстрого решения — это хорошо, но полагаться исключительно на неё опасно», — подчёркивает Карла.
Впрочем, несмотря на минусы, позитивные моменты всё же преобладают. Согласно исследованию Fastly, опытные программисты в два раза активнее применяют ИИ, чем молодые специалисты. Многие респонденты утверждают, что эта технология позволяет им существенно увеличить производительность. Среди преимуществ также называют освобождение от рутинных задач, что позволяет сосредоточиться на более важных стратегических целях.
Некоторые специалисты воспринимают появление ИИ как естественный эволюционный шаг, который изменит характер работы программиста. Элвис Кимара, недавно завершивший магистерский курс по направлению «искусственный интеллект», уверен, что даже после получения квалификации продолжит использовать эти сервисы, считая их необходимым инструментом для профессионального роста.
«Вместо написания обычного кода нам предстоит контролировать работу сложных механизмов, брать на себя ответственность за сбои и учить машины правильным действиям», — резюмирует Кимара.
Эксперты уверены, что эта тенденция сохранится. Программистам предстоит стать профессионалами нового типа, совмещающими функции контролёров и координаторов процессов ИИ.
Всем удачи!
Ваш AppleScroll