Вы когда-нибудь ловили себя на мысли: "Как я мгновенно понял шутку без слов?" Мозг не ищет определения — он "видит" связи в невидимом пространстве смыслов. То же самое делает GPT. Латентное пространство — скрытый слой, где рождаются идеи. Google Brain (2017) открыло: ИИ создаёт "внутренние миры", где "кошка" рядом с "собакой", а "страх" — напротив "радости". Простыми словами: представьте 1000-мерное пространство, где данные сжимаются в точки. Близкие по смыслу — рядом, далёкие — на расстоянии. Эмбеддинг "Paris" рядом с "France", но далеко от "pizza". Трансформеры (Google 2017): каждый слой нейросети строит новое пространство. Первый — слова. Десятый — абстрактные понятия: "любовь=тепло+связь". Attention-механизм моделирует кору мозга: фокусируется на связях. Визуализация: t-SNE показывает кластеры. Кошки в одном углу, собаки — рядом. Интерполяция: иди по оси — кошка → собака → волк. NVIDIA (2018): плавные переходы лиц — от улыбки к гневу. Эмерджентность (статья 11) рождает интеллект
Латентные пространства: невидимые миры в голове ИИ (и вашей)
4 января4 янв
2 мин