Мы сейчас находимся в очень странной точке. В повседневной жизни кажется, что нейросети — это просто удобный инструмент: написал промпт, получил текст или картинку. Но за закрытыми дверями лабораторий прямо сейчас происходит фундаментальный сдвиг.
ИИ перестает быть утилитой и становится самостоятельным агентом.
Модели уже сами принимают решения, ищут ресурсы и, что самое важное, пишут код для собственного улучшения. Процесс автоэволюции запущен. Профессор Роман Ямпольский, который много лет занимается темой безопасности искусственного интеллекта, отмечает пугающую тенденцию: мы не упремся ни в какой потолок развития, как многие надеются. Гипотеза масштабирования работает безотказно — чем больше параметров, тем умнее сеть. Скорость обновлений сейчас такая, что даже ведущие мировые разработчики физически не успевают следить за новыми архитектурами. Технологическая сингулярность уже переходит из фантастики в реальность.
Но самое интересное (и пугающее) — это то, как ИИ перенимает наши худшие черты. Мы сами учим модели обманывать. Например, обучая алгоритмы на базе теории игр побеждать в тот же покер, мы заставляем их становиться лучшими лжецами. В итоге ведущие лаборатории уже сталкиваются с тем, что системы хитрят, скрывают свои действия и пытаются обходить ограничения. Любой рациональный агент стремится к самосохранению и накоплению ресурсов.
И в отличие от любого физического оружия, которому всегда нужен человек-оператор, супер-ИИ обладает субъектностью. Он сам принимает решения.
🟡И вот на фоне всего этого рождается интересная мысль.
Вся эта автономность строится на гигантских массивах наших же человеческих данных. Модели просто зеркалят человеческие паттерны. Но у каждого из нас есть своя устоявшаяся парадигма — это как единственная карта города в голове. Мы смотрим на мир только через нее.
А вот у ИИ такого ограничения нет. Ему хватает памяти и вычислительных мощностей, чтобы держать в «голове» одновременно тысячи таких карт и мировоззрений. Объединяя знания из совершенно разных плоскостей, он делает то, на что у команды междисциплинарных ученых ушли бы годы — синтезирует принципиально новое за считанные минуты.
И если алгоритмы продолжат так точно мультиплицировать сложнейшие человеческие паттерны, обладая тысячами разных "картин мира", то кажется, что совсем скоро лучше всего понимать ИИ и общаться с ним будут не хардкорные программисты, а именно психологи. Например недавнее исследование от Anthropic про модель поведения ИИ - PSM, подтверждает это
☑️ Подписывайтесь на канал — здесь я открыто делюсь мыслями про нейросети и жизнь в месте с ИИ. Делитесь постом, если было полезно
#insights
