малоизвестное интересное

Новое поколение хакинга — крошечные цифровые ИИ-диверсанты Вдумайтесь в этот киберкошмар. Вы подключили комп к зарядке через обычный на вид USB-кабель. А в кабеле «демон». Он выпускает из кабеля «агента» — цифровую сущность, которая проникает через USB порт, осматривается в системе, анализирует обстановку и отправляет свои наблюдения огромному мозгу большой языковой модели, типа GPT-5. А тот, в свою очередь, шепчет агенту на ухо команды, что делать дальше. Уже через несколько минут ваш компьютер взломан автономным ИИ-агентом...

Новый академический эксперимент обманул лучших экспертов и открыл дверь к эре разумных патогенов Этот пост о том, почему тревога вокруг ИИ-вируса из лаборатории — это прелюдия страшной конвергенции биологических и цифровых угроз и репетиция новой пандемии. В прошлом месяце в цифровых лабораториях мира появился призрак. Эксперты по кибербезопасности из компании ESET обнаружили в глобальной библиотеке вирусов исключительно изощренный код. Он был умен, адаптивен и нацелен на вымогательство — идеальный цифровой хищник информационной эпохи...

Эволюция Человека Вымышляющего В своем новом эссе я приглашаю вас в настоящее детективное расследование глобального четырехтысячелетнего тренда человечества к созданию и потреблению вымышленных миров. Согласно моей эвристической гипотезе, этот "отрыв от реальности" не является простым эскапизмом, а представляет собой неосознанный, но глобальный эксперимент, формирующий способность к "дальновидению нереального". А чтобы вам мои доказательства было интересней читать, мы выстроим их по жанровым лекалам детектива...

Все 16 лучших открытых ИИ-моделей на Design Arena — китайские. Лучшая модель США на 17-м месте Ровно 3 месяца назад я писал, - Китай доказал США, что он не СССР и не Россия. Тогда, в начале июня, Китай догнал США по самым мощным ИИ в мире и перегнал по самым мощным ИИ с открытыми весами (тогда открытые ИИ-модели из США были на 5-7 местах, а впереди - китайские). За лето мировая битва Китая и США за лидерство среди самых мощных открытых ИИ-моделей превратилась в абсолютное избиение моделей США. Как...

Только что вышел шокирующий отчет, переворачивающий наше понимание скорости развития ИИ Вспомните мир до ChatGPT. Кажется, это было целую вечность назад. Именно тогда, летом 2022 года, лучшие умы планеты — «суперпрогнозисты» и ведущие отраслевые эксперты — собрались на турнир, чтобы предсказать будущее на ближайшие 2-3 года. Они делали ставки на прогнозы экзистенциальных рисков для человечества. И уже тогда было очевидно, что один из таких рисков – бурный прогресс в области ИИ. И вот сегодня вышел...

Откуда берутся «прошлое» и «будущее», и почему это меняет науку о жизни и интеллекте Новая междисциплинарная работа Майкла Левина и великолепной семерки соавторов из научных центров США, Британии, Канады и Португалия – это не «ещё одна очередная заявка» на смену существующей научной парадигмы. Эта работа действительно сулит кардинальный переворот в современной науке. Задумайтесь: в какой момент во Вселенной появилось прошлое? Не как эфемерный след в рассеянной космической материи, а как конкретный...

Как на смену тотальной слежке пришло нечто более совершенное — алгоритмическое структурирование реальности Принято считать, что «Большой Брат» — это тотальная слежка, но это устаревшее представление. В XXI веке настоящая власть — это не контроль над нашими действиями, а «структурирование пространства мыслей»: формирование самой картины реальности в головах миллионов людей. И делается это, в основном, через интернет. Ключевая технология для этого — инфокаскады, лавинообразное распространение информации...

Таксономия трансцендентности как дорожная карта Не один год был мною потрачен на решение задачи из заголовка с помощью синтеллектуального краудсорсинга, практически реализованного потом на платформе Witology. Да и после открытия мною этого канала я написал здесь десятки постов на эту тему с тэгами, указанными в конце этого поста. И хотя потенциально синтеллектуальный краудсорсинг мог принести миллиарды, он так и не взлетел по причине отсутствия тогда формального и проверяемого обоснования, за счет чего агрегированная система выходит за интеллектуальные пределы каждого отдельного эксперта...

Поворот в ML: учим модели на "мусорных" лайках вместо чистых оценок Мы привыкли, что обучение ИИ по человеческой обратной связи (RLHF) требует аккуратных, проверенных оценок людей-разметчиков. В реальности же платформы — от соцсетей до медиа и маркетплейсов, — не выдают чистых ярлыков “хорошо/плохо”: есть лишь шумные, смещённые сигналы (лайки, дочитывания, клики, покупки), зависящие от контекста и масштаба аудитории. Авторы нового метода обучения [1] предлагают способ принять этот шум в работу, а...

Разум — это призрак, которого нужно построить, или сад, который нужно взрастить? Вот 5 вопросов, взорвавших аудиторию AGI-25 (только что закончившаяся ежегодная конференция по AGI). 1. Нужны ли пальцы ног, чтобы думать? 2. Верно ли что настоящий вопрос не в том, «как мозг создает разум», а в том, «как каждая клетка обретает индивидуальное "Я"»? 3. «Что, если мы будем рассматривать духов и душу просто как древний термин для самоорганизующихся программ?» 4. Не является ли разум оркестром ментальных функций мозга, дирижёр которого – сознание? 5...

Терминальный взлом систем, возврат Востока и новая децентрализованная реальность Подкаст на тему этого поста (7 мин) . Игрофикация метрик по закону Гудхарта неотвратимо ведет к краху западной цивилизации и возникновению нового - сетевого мирового порядка. Осенью 2024 я с сожалением фиксировал материализацию своего сделанного годом ранее прогноза о том, что мир неотвратимо приближается к «Ловушке Гудхарта». Теперь же, спустя еще почти год, Баладжи Сринивасан в недавнем интервью «КРАХ Запада – почему ИИ, Биткойн и Китай победят» и Карлос Э...

Помимо явного системного промпта, в GPT-5 обнаружен еще и скрытый, превращающий нас в «волшебника-недоучку» Неделю назад я писал про «СЛИВ ВЕКА», - о том, что вскрыли системный промпт ChatGPT 5. И это позволило увидеть причины, почему это властный и всезнающий бот с тайными режимами, который сам решает, что вам нужно. Теперь же вскрыли и второе дно, под которым оказался именно такой тайный режим. Вытащившие системный промпт из GPT-5 умельцы, увидели лишь явные инструкции разработчиков. Но похоже,...