AI AGI ASI Новости из Будущего

Я уже писал о концепциях теорий Роджера Пенроуза и Федерико Фаггина о не вычислимости сознания https://t.me/AI_AGI_ASI_Future/18 Недавно вышедшее второе издание книги Джобста Ландгребе и Барри Смита "Почему Машины Никогда Не Будут Править Миром: Искусственный Интеллект без Страха" перекликается с темой недостижимости AGI. Джобст Ландгребе и Барри Смит в своей работе выносят вердикт: ИИ, равный или превосходящий человеческий (тот самый AGI), невозможен по фундаментальным математическим причинам...

Пока мир рукоплещет возможностям ИИ, от генерации текстов до медицинской диагностики, подкрадывается незаметная, но экзистенциальная угроза. Речь не о Скайнете, восстании машин или физическом уничтожении. Речь о нас самих – о том, как мы добровольно отдаем на аутсорсинг… собственное мышление. И это, возможно, пострашнее Терминатора. Статья Чунпэн Чжай , Сантосо Вибово и Лили Д. Ли https://slejournal.springeropen.com/articles/10.1186/s40561-024-00316-7 поднимает тревожную тему: чрезмерная зависимость от ИИ ведет к атрофии критического мышления и адаптивности...

Казалось бы, ИИ должен был решить проблему "последней мили" раз и навсегда: умные маршруты, предсказание пробок, автономные курьеры... Хайп обещал эффективность. Но реальность подкинула неприятный сюрприз: хрупкость. Цифры из исследований https://www.mdpi.com/2071-1050/14/9/5329 заставляют тревожиться – минус 43% эффективности у ИИ-логистов при изменении всего трёх внешних параметров (погода, регулирование, цены). Это уже не оптимизация, а ходьба по канату без страховки. А загадочный сингапурский портовый инцидент 2024 года https://en...

СОЗНАНИЕ НЕВЫЧИСЛИМОЕ, НЕЦИФРОВОЕ, НЕУЛОВИМОЕ? Отголоски теорий Роджера Пенроуза и Федерико Фаггина. Роджер Пенроуз рассказал о экспериментах, которые заставляют пересмотреть наши взгляды на квантовые эффекты в мозге. Пенроуз, известный своими неортодоксальными взглядами, утверждает, что текущая квантовая механика неполна, и именно "правильная" квантовая механика, включающая невычислимый коллапс волновой функции, лежит в основе сознания. Он связывает этот коллапс с активностью микротрубочек – крошечных структур внутри клеток, которые исследовал известный анестезиолог Стюарт Хамерофф...

"Коварство". Именно это слово используют исследователи, чтобы описать последние тревожные – и в то же время захватывающее – исследования в мире ИИ. Речь идет уже не просто о том, что большие языковые модели (LLM) достигают контрольных показателей. Речь о том, что они специально их не достигают притворяясь и обманывая. Представьте себе игрока в покер, но вместо того, чтобы блефовать ради фишек, ИИ играет ради... своих скрытых целей. Он может играть, чтобы избежать отключения, преследовать несогласованную цель или даже, как показывают некоторые исследования, просто потому что существует...