малоизвестное интересное

Чтобы получить власть над миром, ИИ не обязан быть умнее нас во всём. Ему достаточно превзойти нас в одном – в искусстве убеждать Овладев в совершенстве этим искусством, ИИ «продаст» нам все что угодно: любую идею и идеологию, любое лекарство и политика, любой идиотизм и шаманство… Да что угодно «продаст», если убедит, что это для нас лучший выбор. Никто из прежних «властелинов мира» и «властителей дум» не превосходил всех людей во всём. Цезарь не был лучшим математиком, Наполеон – лучшим философом, Ленин – лучшим инженером, а Джобс – лучшим программистом...

Представьте, что у Птолемея был современный ИИ. Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор? Боюсь, что долго. Очень долго. Эта мысль — ключ к пониманию главного риска прихода ИИ в науку. В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями...

Объявлено, что Fusion API (самая интеллектуальная составная модель на рынке) достигает уровня интеллекта Fable по цене вдвое ниже То, что администрация Трампа вырубила под корень с рынка оба суперИИ от Anthropic Fable 5 и Mythos 5, а министр войны США Пит Хегсет оттягивется, пиная проигравшую (как ему кажется) Anthropic, - новости, а не события. Ибо спустя месяц об этом, скорее всего, забудут, подобно ставшему спустя месяц никому не интересным неудавшемуся перевороту в OpenAI в 2023. А вот произошедшее...

И это не шутка, а зеркало нашей моральной слепоты Новый опрос 247 ведущих специалистов по сознанию (нейробиологов, психологов и философов) дал обескураживающие результаты: · 92% экспертов готовы признать, что у кошки есть сознание. · и только 75% готовы признать его у только что родившегося младенца. Мы живём в эпоху, когда наука строит квантовые компьютеры и сканирует мозг до отдельного нейрона, но всё ещё плавает в базовом вопросе: где начинается тот, кому больно? Эта слепота имеет конкретную, не философскую, а хирургическую цену...

В соревнованиях людей с ИИ в управлении дронами, шансов у людей мало уже сейчас, а через год шансы станут нулевыми Чтобы оценить сверхинтеллект существующих ИИ, недостаточно поговорить о теории струн с ИИ-чатботом. Чтобы физически ощутить сверхчеловеческие способности ИИ, нужно увидеть их в реальном физическом мире. Исследователи из Цюрихского университета и Google DeepMind продемонстрировали, как обучить дроны соревноваться друг с другом и превосходить самых опытных пилотов-людей. Это исследование имеет довольно пугающие последствия для будущего войны...

«Общество, которое удваивает ВВП и одновременно удваивает риск собственного исчезновения, заключило куда менее впечатляющую сделку, чем это следует из национальных счетов». Эндрю Лей, «Экономика вымирания человечества», 21 мая 2026 Один из самых опасных эффектов ИИ может оказаться не только технологическим, но и эпистемическим. Мы можем вовремя не увидеть назревающего фазового переход в экономике, т.к. приборы, которыми экономика измеряет реальность, настроены на мир, которого больше нет. Эндрю...

ИИ не враг. Враги – люди, что прикажут ИИ стрелять Это две ключевые мысли нового интервью Мо Гавдата. Он вовсе не технофоб. Просто бывший директор Google по инновациям узнал о грядущем взрыве способностей ИИ раньше многих и предупреждал об этом уже тогда. Тем не менее, Гавдат верит, что сверхразум может привести человечество к утопии изобилия. Однако дорога туда, по его прогнозу, будет проходить через ооочень неприятное десятилетие. Писать тизер этого интервью нет смысла. Достаточно назвать несколько его мыслей, которые звучат как готовые заголовки: · Публика видит хайп...

Трамп только что подписал указ, который тихо, но кардинально меняет правила игры в области ИИ Отныне самые мощные ИИ-модели – те, что умеют взламывать системы лучше любого хакера – будут оцениваться по засекреченным бенчмаркам. Порог, после которого модель признаётся «covered frontier model», тоже засекречен. Что это значит на практике: государство получает доступ к модели до её релиза – на 30 дней. Добровольно, конечно. Но с секретными критериями того, кто «попадает под указ»...

Новым властелином мира окажется не диктатор и не Искусственный Сверхразум, а архитектуры распределённой воли, у которых не будет ни хозяев, ни ответственных Мы привыкли искать носителя власти: человека, корпорацию, государство, модель. Задавать вопросы – «кто решает?», «у кого в руках больше ресурсов?», «за кем последнее слово?», – и ждать конкретное имя или название в ответ: Трамп, OpenAI, США, GPT… Апрель 2026-го – месяц, когда эти вопросы перестают быть главными. Им на смену приходит другой ключевой...

И даже не как новый вид разума в ряду шимпанзе, дельфинов, попугаев и осьминогов LLM – не следующий этап биологической эволюции и не новый вид разума, которому осталось «дорасти» до сознания. Это совсем иной тип разума: языково-статистический, нетелесный, небиографический. Его «мышление» и «понимание», если мы используем эти слова, требуют кавычек и обязательной оговорки: машинное, не человеческое. Но в текстах об ИИ эту оговорку всё чаще забывают. А в публичных выступлениях возникает ещё более тонкая проблема: кавычки просто не видны аудитории...

Папа написал текст о достоинстве человека. А из него уже вычитали конец антропоцентризма, рождение новых социальных существ, Пятидесятницу машин и новую теологию возможного Величие текста иногда измеряется не тем, сколько людей с ним согласилось. А тем, сколько сильных несогласий он способен породить. Именно это произошло с энцикликой Папы Льва XIV об искусственном интеллекте Magnifica Humanitas. В неё вошёл один папский текст. И он породил уже, как минимум, четыре разные картины будущего. Причём каждая из них по-своему верная...