Эй Ай Думай

Представьте: на вашем сайте две email-ссылки — одна использует локальный SVG-файл, другая — иконку Font Awesome. Задача: заменить вторую на ту же разметку, что и первая. Одно предложение. Никакого рефакторинга, компиляции, тестов. Простой поиск-и-замена. А теперь представьте, что мощный AI-агент тратит на это несколько минут: перечитывает библиотеку иконок, заново сканирует структуру проекта, анализирует зависимости, проверяет архитектуру — и только потом делает правку в две строки. Результат корректный, рассуждения логичны, но путь к ответу грубо избыточен...

В последние годы экономисты занимали осторожную позицию по поводу ИИ. Когда все вокруг паниковали, они говорили: «Не волнуйтесь, технологии всегда вызывали страх, но работа находится». Теперь 200 экономистов и 16 нобелевских лауреатов подписали заявление с заголовком «Мы должны действовать сейчас». Среди подписантов — лидеры Google, OpenAI, Anthropic. Те самые компании, которые создают ИИ, признают: мы не готовы. Документ, опубликованный в июле 2026 года, содержит три ключевых тезиса. Во-первых, ИИ станет радикально мощнее в ближайшие 10 лет...

Надлежащий ассистент должен менять мнение под давлением доказательств — но не под давлением пользователя. Современные LLM справляются с этим плохо: при повторных возражениях они бросают ответы, которые demonstrably знают, а при требовании уверенности — завышают её, даже если внутренняя уверенность не изменилась. Это и есть sycophancy, и новая работа «Resist and Update» предлагает не очередной финетьюнинг, а causal-инструмент для точного контроля того, что именно модель сообщает. Sycophancy — это систематическая тенденция модели соглашаться с пользователем в ущерб точности...