Habr.com

Открываем претрейн Alice AI Search: как устроена модель быстрых ответов Алисы на Поиске Быстрый ответ Алисы AI должен за считаные секунды разобрать результаты Поиска и выдать лаконичный ответ даже в час пиковой нагрузки. Ради этого команде пришлось перебрать весь пайплайн, от отбора полезных фрагментов в найденных документах до архитектуры модели и обучения на поведении реальных пользователей. Ребята из Alice AI Search рассказали про экстрактор инфоконтекстов, который поднял пропускную способность примерно на 40% без потери качества, про Encoder-Decoder-модель с разреженной MoE-архитектурой и про online-RL, где отдельная реворд-модель учится на том, хватило ли пользователю ответа или он продолжил поиск. Претрейн Alice AI-T5-35B-A0.6B обучили с нуля на 15 трлн токенов собственного корпуса, а его дообученную версию используют в продакшне. Сам претрейн теперь в открытом доступе, инференс снаружи работает через Hugging Face Transformers.

Код будущего: конкурс статей о роли ИИ в создании ПО объявляется открытым! Компании давно перестали спорить, полезна ли нейросеть при создании софта, и перешли к вопросу, как встроить её в процессы без потерь. Хабр совместно со Сбером запускают сезон «Код будущего» и зовут инженеров рассказать, как это выглядит на их собственной практике. В конкурсе три связанные темы: 1️⃣ Первая про перестройку всего жизненного цикла разработки, потому что просто посадить ассистента в пару этапов примерно то же, что поставить турбину от самолёта на телегу. 2️⃣ Вторая про открытый код и нейросети, которые не существуют друг без друга. 3️⃣ Третья про безопасную разработку, когда ревью трещит по швам, а агенты находят тысячи уязвимостей там, где считалось надёжно. Статьи принимаются до 11 ноября, лучших будут ждать денежные призы и мерч. Рассказываем, по каким правилам заходить в сезон и как побороться за призовые места. Реклама. ООО «С-МАРКЕТИНГ». ИНН: 7736319695. 2VSb5wAUJci

Интерпретатор Python в 1024 байтах CPython, чтобы выполнить программу, токенизирует исходник, строит синтаксическое дерево, прогоняет анализ и оптимизации, генерирует байткод и только потом его интерпретирует. А тут работающий интерпретатор подмножества Python занимает ровно 1024 байта кода на C, без макросов и внешних библиотек. И это не игрушка на пару операций, он гоняет FizzBuzz с def, отступами, if, циклами while и for, вызовами функций и рекурсией. Первая попытка в 512 байт провалилась, дальше в ход пошёл код-гольфинг с односимвольными именами, трюками C89 и ASCII вместо символов. Но самое любопытное даже не в ужимании, а в том, как этот парсер вообще исполняет циклы и рекурсию, не имея ни синтаксического дерева, ни байткода.

Эти пчелы делают неправильный C++ Команда, поддерживавшая движок для прототипа Arkane, довела число выделений памяти за кадр до двадцати. Не двадцати тысяч, а двух десятков на весь фрейм, и очень этим гордилась. Заплатить пришлось стеком под 20 Мб на главный поток, компиляцией движка с нуля почти на четыре часа и запретом на значительную часть рантайма C++14. Под нож пошли исключения, RTTI, глобальные new и delete, iostream целиком, тяжёлые шаблоны, стандартные контейнеры сложнее вектора. Всё это выпилили не ради скорости, потому что быстрее код от этого по большей части не становился. Получилась не новая версия языка, а архитектурная дисциплина с аллергией на аллокации, где время кадра покупалось временем жизни программиста. И самое странное в этой истории то, ради чего вся жёсткость затевалась.

За этот год никто так и не открыл секретный рекламный канал, где лиды всё ещё по 100 рублей. Мы проверяли. Поэтому конференции про успешные кейсы не будет. Рассказывать с пьедестала, как надо, некому. Рынок штормит одинаково у всех. Зато честно поговорить друг с другом — самое время. 5-9 октября Хабр вместе с eLama открывает «Санаторий маркетолога». Пять дней онлайн, бесплатно. Никакого лечения иксами, которых нет. Соберём столько маркетологов, сколько получится, и дадим всем наконец выговориться. Будут те, кто уже что-то нащупал. Те, кто пока понял только, что не работает. Те, у кого внезапно сработало — и кто сам не понимает, за что ему такое счастье. И те, у кого коллекция граблей такая, что жалко держать при себе. Чужие ошибки сейчас экономят бюджет не хуже чужих успехов — поэтому и собираемся. Внутри путёвки не только выступления. Можно прислать свою рабочую задачу через бота — другие маркетологи посмотрят на неё свежим взглядом. А если накипело, есть чат, где можно просто поныть среди своих. Тоже полезно. Если всё сложится, уйдёте с пакетом рабочих гипотез на конец года. Ну или хотя бы с парой — но зато своих. А почему санаторий? Да потому что нам всем уже, кажется, пора. Оформить путёвку 👈