Типичный программист

Одиссей хотел услышать пение сирен и услышал. Но сначала велел команде привязать его к мачте, чтобы не свернуть с курса. Любое большое внедрение устроено похоже: голосов вокруг много, и каждый хочет чего-то своего. На ИТ-Одиссее Евгений Зубков, начальник управления развития ИИ-решений и внешних партнёрств Альфа-Банка, расскажет, как провести масштабный ИТ-проект через бурю и не потерять из виду свою Итаку...

Маленькая модель может накидать несколько токенов, а большая — проверить весь блок одним проходом. В разборе Hugging Face 2023 года разобран случай с greedy-декодированием. Пока варианты совпадают с выбором большой модели, префикс принимается. На первом расхождении берут токен большой модели, а оставшийся черновой хвост отбрасывают: он продолжал последовательность с другим токеном...

Записать побольше событий — ещё не значит понять, почему программа тормозит. Формат трассы рассчитан на быструю запись с небольшими накладными расходами. Для анализа эти данные ещё нужно разобрать и связать. В Perfetto этим занимается Trace Processor. Он читает трассы в форматах Perfetto, ftrace и Chrome JSON, структурирует события и даёт запрашивать их через PerfettoSQL. Найденную проверку можно повторять на других трассах, не разыскивая события на временной шкале вручную...

Litestream может сохранить изменение, но со временем потерять возможность восстановить базу ровно до него. В описании v0.5 страницы SQLite WAL собираются в файлы LTX. Один такой пакет может содержать несколько транзакций SQLite. Его TXID — идентификатор пакета, а не каждой прикладной транзакции. При восстановлении берут подходящий snapshot и применяют целые LTX по порядку. Половину файла применить нельзя...