INCUBE.AI
OpenAI рассказала, как удешевляла GPT-5.6, и в основном этим занималась сама GPT-5.6 Sol
Sol в Codex переписывал ядра — код, который считает математику модели на GPU: он искал, что можно посчитать заранее, чего лучше избежать и что стоит распараллелить. Для этого модель специально учили писать на Triton и Gluon. Стоимость обслуживания снизилась на 20%. Ещё Sol собрал для себя черновую модель спекулятивного декодирования: маленькая модель работает рядом с основной и заранее предлагает токены, а основная затем проверяет их за один проход. Sol прогнал сотни экспериментов с её архитектурой и сам следил за обучением. Генерация токенов стала эффективнее больше чем на 15%. На практике для...
Проверяем скиллы и промпты на БЕСПОЛЕЗНОСТЬ — вышел бенчмарк, который показывает, действительно ли добавленные скиллы помогают ИИ работать
лучше или, наоборот, делают его хуже: • Он создаёт до 100 тематических тестовых заданий, а затем автоматически сопоставляет результаты ИИ со скиллом и без; • Применяется метод «слепого сравнения» — ИИ-оценщик не знает, какой ответ нейросеть дала при использовании скилла; • Поддерживает разные форматы — SKILL.md, AGENTS...
Превращаем любые книги в базу знаний для ИИ: нашли book-to-skill — он делает отдельные скиллы для учебников, литературы и документации
Достаточно загрузить агенту файл в формате pdf, epub, docx или другом текстовом формате. Он разберет книгу по главам и отдельно соберет глоссарий терминов, перечень паттернов и шпаргалку с правилами. Запускается командой /название_книги...
