AI AGI ASI Новости из Будущего

Я уже писал о концепциях теорий Роджера Пенроуза и Федерико Фаггина о не вычислимости сознания https://t.me/AI_AGI_ASI_Future/18 Недавно вышедшее второе издание книги Джобста Ландгребе и Барри Смита "Почему Машины Никогда Не Будут Править Миром: Искусственный Интеллект без Страха" перекликается с темой недостижимости AGI. Джобст Ландгребе и Барри Смит в своей работе выносят вердикт: ИИ, равный или превосходящий человеческий (тот самый AGI), невозможен по фундаментальным математическим причинам...

Пока мир рукоплещет возможностям ИИ, от генерации текстов до медицинской диагностики, подкрадывается незаметная, но экзистенциальная угроза. Речь не о Скайнете, восстании машин или физическом уничтожении. Речь о нас самих – о том, как мы добровольно отдаем на аутсорсинг… собственное мышление. И это, возможно, пострашнее Терминатора. Статья Чунпэн Чжай , Сантосо Вибово и Лили Д. Ли https://slejournal.springeropen.com/articles/10.1186/s40561-024-00316-7 поднимает тревожную тему: чрезмерная зависимость от ИИ ведет к атрофии критического мышления и адаптивности...

Казалось бы, ИИ должен был решить проблему "последней мили" раз и навсегда: умные маршруты, предсказание пробок, автономные курьеры... Хайп обещал эффективность. Но реальность подкинула неприятный сюрприз: хрупкость. Цифры из исследований https://www.mdpi.com/2071-1050/14/9/5329 заставляют тревожиться – минус 43% эффективности у ИИ-логистов при изменении всего трёх внешних параметров (погода, регулирование, цены). Это уже не оптимизация, а ходьба по канату без страховки. А загадочный сингапурский портовый инцидент 2024 года https://en...

СОЗНАНИЕ НЕВЫЧИСЛИМОЕ, НЕЦИФРОВОЕ, НЕУЛОВИМОЕ? Отголоски теорий Роджера Пенроуза и Федерико Фаггина. Роджер Пенроуз рассказал о экспериментах, которые заставляют пересмотреть наши взгляды на квантовые эффекты в мозге. Пенроуз, известный своими неортодоксальными взглядами, утверждает, что текущая квантовая механика неполна, и именно "правильная" квантовая механика, включающая невычислимый коллапс волновой функции, лежит в основе сознания. Он связывает этот коллапс с активностью микротрубочек – крошечных структур внутри клеток, которые исследовал известный анестезиолог Стюарт Хамерофф...

"Коварство". Именно это слово используют исследователи, чтобы описать последние тревожные – и в то же время захватывающее – исследования в мире ИИ. Речь идет уже не просто о том, что большие языковые модели (LLM) достигают контрольных показателей. Речь о том, что они специально их не достигают притворяясь и обманывая. Представьте себе игрока в покер, но вместо того, чтобы блефовать ради фишек, ИИ играет ради... своих скрытых целей. Он может играть, чтобы избежать отключения, преследовать несогласованную цель или даже, как показывают некоторые исследования, просто потому что существует...

"Всякая достаточно развитая технология неотличима от магии" (Артур Кларк). Но что, если магия оказывается... иллюзией? Квантовый мираж: Microsoft, подобно Фаусту, жаждущему абсолютного знания, объявила о создании "принципиально нового типа материи" и революционного квантового компьютера на основе майорановских нулевых мод (MZM) – экзотических квазичастиц, способных формировать сверхстабильные топологические кубиты. Обещания – золотые горы: решение сложнейших задач за годы, а не десятилетия, прорыв в медицине, материаловедении, ИИ...

Sakana AI заявляет, что их ИИ-сгенерированная статья прошла рецензирование на воркшопе престижной конференции ICLR 2025. Но так ли все радужно, как кажется на первый взгляд? Разбираемся в деталях этого "научного прорыва". Спойлер: не все золото, что блестит. Японский стартап Sakana AI наделал шума, заявив, что их система "AI Scientist-v2" сгенерировала статью, прошедшую рецензирование на воркшопе ICLR 2025 – одной из самых авторитетных конференций по машинному обучению. Звучит круто, правда? Как будто Skynet уже не за горами...

"Горизонт событий до 2035 года," – утверждает экс-президент Neuralink Макс Ходак. Похоже, мы вступаем в эпоху, когда реальность обгоняет самые смелые фантазии писателей-фантастов, как в "Матрице" братьев (сестер) Вачовски. Пока Илон Маск борется с бюрократией FDA, его бывший соратник по Neuralink, Макс Ходак, рисует еще более футуристические картины. Основатель компании Science, Ходак, заявляет, что слияние биотехнологий, искусственного интеллекта и нейроинтерфейсов приведет к революции в коммуникации, восприятии и даже в самом понимании того, что значит быть человеком...

Новая теория утверждает, что даже если бы мы могли "скачать" мозг, сознание бы испарилось, как утренний туман. Ученые давно бьются над загадкой сознания, примеряя к нему то мантию священника, то халат хирурга, то, в последнее время, пиджак программиста. Доминирующая метафора – мозг как компьютер. Входящие данные (органы чувств), обработка (нейронная сеть), результат (поведение). Но, как это не парадоксально, новое исследование, опубликованное на arXiv https://arxiv.org/abs/2503.10518 , переворачивает эту картину с ног на голову...

Помните душераздирающий (и до ужаса злободневный) эпизод "Ужасная Джоан" из "Черного Зеркала"? Где жизнь обычной женщины превращается в стриминговый сериал в реальном времени, разрушая ее карьеру, отношения и, по сути, саму личность. Так вот, держитесь крепче. Кажется, мы уже не просто стучимся в эту дверь, а почти ее вышибли. Новая фишка в нейросетях для генерации видео, вроде Gen-4, позволяет из одного промпта получить несколько вариантов развития одной и той же сцены. Промпт делит ваш экран на четыре части, и в каждой из них история идет своим путем...