Прожектёром называют человека, который выдвигает разные смелые, но часто нереалистичные планы и идеи. Обычно прожектёр много говорит о будущих проектах, решениях и изобретениях, но редко доводит их до реального воплощения или начинает и бросает на полпути. Если ещё в конце прошлого века подобное поведение общественно осуждалось, то современные прожектёры чувствуют себя более вольготно, а популярная психология всячески поддерживает их — мол, мечтай, и всё получится. Для них придумали новое комплиментарное слово — визионер...

Трансформер — это архитектура нейронных сетей, в которой обработка информации осуществляется через механизм внимания, а не последовательного прохождения. В статье разъясняется, как трансформер устроен, почему он заменил рекуррентные модели, каким образом внимание между токенами формирует контекст, и как эта структура стала основой современных языковых и мультимодальных моделей. Текст охватывает принципы токенизации, механизм self-attention, устройство энкодера и декодера, а также философские и этические аспекты, связанные с архитектурой без субъекта...