Александр Мазин | One Man Enterprise

Полные копии базы с заказами и паролями клиентов лежали в открытой части сайта пять месяцев и скачивались по прямой ссылке. Признаков взлома не было ни одного - и это самое интересное в этой истории. Разбираю, как утекают базы через рабочий мусор и как проверить свой сайт. Собственник спросил осторожно: "У нас же не могли слить базу?" Повод был - месяцем раньше на одном из его сайтов мы уже находили открытый архив. Я проверил все сайты, до которых у него есть отношение. Результат: на соседнем сайте...

Один зациклившийся вопрос ушёл в 117 итераций и стоил 6,87 доллара при среднем чеке в доли цента. Разбираю реальные расходы на ИИ в работающей системе: откуда они берутся, кто их создаёт и какие четыре ограничителя надо поставить до запуска. На одном из проектов однажды утром на общем счёте оставалось 10,79 доллара при расходе 23,76 доллара за предыдущие сутки. То есть меньше чем через сутки всё, что работает на ИИ, просто перестало бы отвечать. Дальше был разбор, и он оказался поучительнее любой теории...

"Разработка - от 150 до 400 часов" - с такой строкой заказчику нечего делать: разброс в два с половиной раза, а из чего он складывается, не видно. Разбираю с позиции заказчика, что должно быть в смете на автоматизацию, чтобы её можно было проверить: одна вилка, буфер отдельной строкой, чужая зона ответственности вне часов и четыре вопроса подрядчику. Собственник получает от подрядчика оценку: "Разработка - от 150 до 400 часов". Что с этим делать, непонятно. Разброс в два с половиной раза, из чего он складывается - неизвестно, а торговаться не о чем: цифра монолитная...

Одна и та же задача на одном и том же сервере: в первом варианте 25 секунд речи обрабатывались две минуты, во втором сорок секунд речи укладывались в десять. Разбираю на замерах, где локальная модель реально выигрывает у облачного API, а где это самообман, и по какому фильтру я прохожу эту развилку. Голосовой ввод, который я собирал для сайта и для себя, сначала не заработал вообще: распознавание отставало от реального времени в пять раз. Развилку "локальная модель или облачный API" после этого я прохожу замерами - у неё есть числовой ответ, и он разный для разных задач...

Поиск в системе не работал минимум три недели, а мониторинг был зелёный: ИИ-агент съедал ошибку инструмента и спокойно отвечал по памяти. Разбираю класс поломок, при которых всё "работает", - блокировки по географии, тихие отказы и то, как их вообще заметить. Расскажу про класс поломок, с которым в России теперь сталкивается любой, кто строит ИИ-системы: отказ внешнего сервиса по географическому признаку. Падение видно сразу, его чинят за час. Здесь другое: система продолжает отвечать, отчётность зелёная, а результат тихо стал хуже...