Что такое трансформатор? Как он работает и для чего он вообще нужен? Давайте разберемся... Слово «трансформатор» образуется от английского слова «transform» - преобразовывать, изменяться. Все помнят фильм «Трансформеры»? Там машинки легко преобразовывались в трансформеров и обратно. Но... трансформатор у нас не преобразовывается по внешнему виду. Он обладает еще более удивительным свойством - преобразовывает переменное напряжение одного значения в переменное напряжение другого значения! Это свойство трансформатора очень широко используется в радиоэлектронике и электротехнике...

Трансформер (англ. Transformers – преобразователь) — это разновидность Нейронных сетей (Neural Network), которая использует концепцию Внимания (Attention) и эффективнее предшественников обрабатывает массивы данных с множеством Признаков (Feature). Популярными представителями класса Трансформер являются: Еще говорят, что такие нейросети полагаются на собственное Внимание – новый термин в контексте Машинного обучения (ML). Что же такое внимание в контексте Обработки естественного языка (NLP)? Оно позволяет сосредоточиться на элементах входных данных, пока мы предсказываем следующее слово...