Ученые создали человекоподобную память для ИИ-трансформеров
Ученые из Южной Кореи создали человекоподобную систему памяти, которая улучшит производительность трансформеров, сообщает Lenta.ru.Алтапресс
Результаты исследования опубликованы в препринте статьи на сайте arXiv.Lenta.ru
При обучении нейронная сеть определяет корреляции между различными словами в текстах (взятых, например, из «Википедии»), что позволяет ей генерировать собственные тексты.Lenta.ru
Серия экспериментов показала, что Memoria значительно повышает производительность трансформеров при выполнении различных задач, связанных с обработкой длинных последовательностей данных.Lenta.ru