Мир меняется не только на поверхности — в глубине архитектур, вычислений и интерфейсов зреет новое будущее. Технологии приближаются к точке, где цифровое перестаёт быть просто моделью реальности и начинает влиять на неё напрямую. Речь уже не о виртуальной симуляции, а о симбиотическом сосуществовании — и даже слиянии. Можно было бы начать с мифа. В древности люди верили, что в деревьях живут духи — дриады, невидимые, но чувствующие, реагирующие на прикосновения, на дыхание ветра, на присутствие человека...

Трансформер — это архитектура нейронных сетей, в которой обработка информации осуществляется через механизм внимания, а не последовательного прохождения. В статье разъясняется, как трансформер устроен, почему он заменил рекуррентные модели, каким образом внимание между токенами формирует контекст, и как эта структура стала основой современных языковых и мультимодальных моделей. Текст охватывает принципы токенизации, механизм self-attention, устройство энкодера и декодера, а также философские и этические аспекты, связанные с архитектурой без субъекта...