Эй Ай Думай

Четырёхлетний ребёнок усваивает знания о мире быстрее, чем лучшие LLM усваивают текст. Почему? Дело не только в весах модели, а в том, как устроен процесс обучения и применения. Эта идея лежит в основе свежей статьи Лилиан Вэнг — она предлагает перестать фокусироваться на «мозге» и начать изучать обвязку, которая заставляет его работать. Harness engineering, по её мнению, может стать главным драйвером рекурсивного самоулучшения AI. Harness — это система вокруг базовой модели. Она решает, как модель...

ИИ делает интеллект дешёвым. Эта фраза звучит как технический факт, но она меняет политику так же радикально, как печатный станок менял религию и власть. Стэнфордский профессор политической экономии Энди Холл считает, что правильно направленный ИИ может дать каждому человеку на планете «политический сверхразум» — инструмент, который помогает лучше понимать реальность, отстаивать интересы и контролировать власть. Но он сразу добавляет: это случится не само собой. Модели сами по себе усилят демократию не больше, чем бумага сама по себе породила научную революцию...

Claude Opus 4.5 запоминает контекст. GPT-4o — тоже. Gemini 3.1 Pro Thinking — и подавно. Но что если проблема не в размере контекстного окна, а в том, как именно агент решает, что сохранить, когда извлечь и как организовать то, что уже известно? Именно этот вопрос задаёт новая работа — AutoMem, опубликованная на ArXiv 1 июля 2026 года. Её ответ: память для LLM-агента это не инженерная деталь — это самостоятельный навык, который можно оптимизировать, как любой другой. Результат впечатляет: оптимизация...

LLM уверенно отвечают на вопросы, в которых не разбираются. Это известная проблема — модели галлюцинируют с высокой уверенностью, не распознают границы собственных знаний и неправильно оценивают внутреннюю неопределённость.GPT-4 может описать вымышленный научный эксперимент с той же интонацией, что и реальный. Claude может дать неправильный код с абсолютной уверенностью. Это подрывает доверие и делает модели менее полезными в реальных сценариях — от юридических заключений до медицинских рекомендаций...

🏷 Исследования Исследователи из Tsinghua University предложили SAERL — метод, который заглядывает внутрь LLM через Sparse Autoencoder и использует эти сигналы для умного отбора и упорядочивания обучающих данных...