Системы автоматического весового контроля действуют во многих регионах России: их количество перевалило за сотню. Однако в будущем их может стать гораздо больше. В январе 2020 года пресс-служба Минтранса сообщила, что к 2024 году только на региональных дорогах будет развернуто без малого 400 АПВГК (автоматических пунктов весогабаритного контроля). В Республике Татарстан реализована система весового и габаритного контроля, который осуществляется уполномоченными контрольно-надзорными органами. Государственное...

Self-attention в деталях Для начала следует рассмотреть то, как вычислить self-attention при помощи векторов. После мы перейдём к реализации с применением матриц. Первым шагом в вычислении self-attention является создание трёх векторов из каждого входного вектора кодера (в этом случае из каждого слова). Поэтому для каждого слова мы создаем вектор запроса, вектор ключа и вектор значения. Эти векторы создаются при помощи умножения вложения на три матрицы, которые были обучены нами. Стоит обратить внимание на то, что эти новые векторы меньше по размеру, чем вектор вложения...