Успехи нейросеток заставят нас переосмыслить наши подходы к интеллекту вообще

Успехи нейросеток заставят нас переосмыслить наши подходы к интеллекту вообще:

— Надо признать, что вычисления — это часть природы

Сама жизнь (ДНК, клеточные процессы, развитие организмов) является формой вычислений

Если что, работа фон Неймана о самовоспроизводящихся автоматах была раньше, чем открыли ДНК, а это примерно одно и то же

— Нужно делать системы типа мозга человека

Современные компьютеры (даже GPU/TPU) все еще далеки от архитектуры мозга, что делает нейросетевые вычисления неэффективными

Предиктивный интеллект

Успех LLM показывает, что интеллект во многом сводится к статистическому моделированию и предсказанию будущего на основе прошлого опыта и обратной связи

Это новая база для нейробиологии и ML

— Интеллект не обязательно требует биологической основы

LLM лишь имитирует интеллект

Но важна функция, а не способ её реализации

Коллективный интеллект

Интеллект фундаментально социален, он усиливается за счет масштаба, кооперации и разделения труда между множеством агентов (будь то нейроны в мозгу, люди в обществе или ML-агенты)

ML не просто имитируют интеллект, а расширяют коллективный

Это фундаментальный пересмотр понимания интеллекта, сравнимый с научными революциями прошлого

Если раньше надо было всеми силами отмахиваться от ассоциаций LLM с биологией, чтобы неправильно не понять, то теперь наоборот

Тезисы:

— Нужна новая область знаний, разнообразный интеллект

Это интеллект во всех его формах

Что значит учиться, принимать решения, иметь внутреннюю перспективу независимо от материального воплощения

— Каждый человек начинал как неоплодотворённая яйцеклетка — капля химии и физики

Переход от физики к психологии происходит постепенно, без четких границ

Мы сами не монолитные существа, а системы компонентов

— Появятся киборги и заполонят планету

Он против чёткого разделения на естественное и искусственное

Жизнь совместима с технологиями на всех уровнях организации

— Критикует аргументы о том, что ML не понимает по-настоящему

Куча жира в голове тоже не понимает по-настоящему

— Предлагает пересмотреть понятия творчества, собственности, авторства

Определить, что именно в человечности стоит сохранить

Развить зрелую этику для взаимодействия с разными формами разума

И третья — Нежная сингулярность Альтмана из ChatGPT — уже пройден горизонт событий — технологическая сингулярность началась, но происходит более плавно и менее драматично, чем ожидалось

Во-первых, агентские LLM-системы превосходят кучу людей

Они просто умнее большинства для большинства задач

И дальше этот разрыв будет расти

Во-вторых, в 2026 появятся системы, способные делать новые научные открытия

В 2027 — роботы для работы в реальном мире

В 2030 всё это станет дешевле и доступнее по питанию, плюс роботы достроят свои пепельные купола

Учёные уже в 2-3 раза продуктивнее с нейросетками

Рекурсивное самосовершенствование моделей уже пошло офигенными темпами

Роботы будут строить других роботов и дата-центры

Ну или всех поубивают, потому что решение проблемы безопасности пойдёт параллельно

Плюс надо ещё как-то обеспечить широкий доступ к суперинтеллекту и избежать концентрации власти у лиц и/или стран