Олег Булыгин | Полезная нагрузка

📉 Агенты уже умеют закрывать тикеты и править локальные баги в коде, но это — задачи с коротким горизонтом. Сделал действие -> сразу получил фидбек. В реальном бизнесе так не работает. Решения имеют отложенные последствия, информация зашумлена, а правила игры меняются на лету. Исследователи из Принстона выкатили интересный бенчмарк для ИИ-агентов — CEO-Bench. Агенту дают 1 млн долларов стартового капитала, фиктивный AI-стартап и 500 дней на то, чтобы не сдохнуть. Как работает мясорубка CEO-Bench...

📉 Сразу два отчета (от Gartner и a16z) констатируют: мы доигрались. Бесконтрольное использование ИИ-агентов сжигает бюджеты быстрее, чем галера из некомпетентных мидлов. По прогнозам Gartner, уже к 2028 году затраты на ИИ для написания кода превысят среднюю зарплату разработчика. И проблема не в том, что модели дорогие. Проблема в том, что большинство вообще не понимает, как с ними работать. Вы наняли миллион тупых джунов 🙃 В a16z очень точно подметили: раздав всем доступ к ИИ-агентам, бизнес, по сути, нанял миллион отвратительных сотрудников с безлимитной корпоративной картой...

🤖 Помните пост о том, как ИИ-рекрутеры (ATS) отбраковывают идеальные резюме просто из-за галлюцинаций LLM и генератора случайных чисел? Так вот, симметричный ответ не заставил себя долго ждать. На GitHub лежит занятный опенсорсный проект: hh-ai-agent. Это автономный ИИ-агент, который берет на себя рутину поиска работы на HH.ru. Под капотом там такой стек: 🔵 Playwright для обхода антифрод-систем и парсинга страниц. 🔵 Локальная Llama 3 по умолчанию (через Ollama), чтобы не платить за токены API и не сливать свои данные...

📲 Ребята из PrismML недавно выкатили Bonsai 27B — это Qwen 3.6 на 27 млрд параметров, жёстко упиханный в 1-битные и тернарные веса. Если вы когда-то пытались локально поднять что-то подобное, то в курсе математики: в fp16 это ~54 ГБ VRAM. Даже адекватный 4-битный квант сожрет около 18 ГБ. Ни один телефон или дефолтный рабочий ноут это не переварит, так как ОС просто не отдаст столько памяти одному приложению. Возьмем условный iPhone 17 Pro — там 12 ГБ памяти. Из них iOS отдает приложению под работу максимум около 6 ГБ (и это потолок)...