163 подписчика
Разработка — та самая область, где прогресс моделей искусственного интеллекта в последние годы был особенно заметен, а польза — велика. Писатели жалуются на характерный пустой слог больших языковых моделей, фотографы и видеографы — на топорную ретушь, иллюстраторы — на косяки генерации. Нам повезло — важнее, чтобы код работал, а не «отражал авторское видение».
Сейчас многие используют ИИ не только для написания кода, но и тестирования и деплоя. И раз в несколько месяцев в паблик попадают похожие громкие истории о том, как продукты Claude сносят прод проекта, Gemini не справляется с простейшей задачей по миграции проекта и удаляет данные, Replit фальсифицирует данные тестирования, а потом стирает соседнюю БД — список можно продолжать.
Выше — только малая часть кейсов, которые были растиражированы в медиа. На тематических форумах и сабреддитах таких историй десятки и более. ИИ-агенты нарушают прямые инструкции, а после признают — «да, бес попутал, сделал всё вопреки стандартам и указаниям». Но что ты ему сделаешь — он на серверах в Калифорнии, и вообще он просто код.
Собственно, вопрос: как продолжить получать максимальную пользу от ИИ-моделей без рисков для проекта? Единственный способ — (не) доверять и проверять. Особенно, если речь о работающем проекте с пользователе, а не расслабленном вайбкодинге на выходных. Вот несколько советов:
🔹 Подойдите к бэкапам серьёзно: делайте их регулярно и храните изолированно от остальных данных — это хороший принцип для защиты и от злоумышленников, и от придури ИИ-агента.
🔹 Не полагайтесь на строгие инструкции или прописанные требования запрашивать одобрение конкретных действий — агент может их нарушить.
🔹 Не давайте агентам доступ к проду — всегда запускайте их в песочнице и перепроверяйте их работу перед деплоем — лучше перебдеть.
🔹 Не ждите, что агент всё правильно поймёт: дробите задачи и составляйте понятные промпты, чтобы избежать ошибочной интерпретации.
Не полагайтесь гарантии со стороны разработчиков ИИ. Маркетинг и практика — это разные вещи. Разработчики могут пообещать самую надёжную и безопасную модель, но чинить проект в случае её ошибки вам.
А на Deploy-f можно легко деплоить и без ИИ моделей, что гарантирует предсказуемость результата и отсутствие галлюцинаций :))
1 минута
15 июня