Найти в Дзене

Эффективное распараллеливание нейросетей на основе передачи сообщений

Эффективное распараллеливание нейросетей на основе передачи сообщений Модели машинного обучения, основанные на нейронных сетях с механизмом передачи сообщений (MPNN), показали высокую точность в атомном моделировании, но их параллелизация для масштабных вычислений затруднительна из-за плохой масштабируемости и необходимости обмена данными. Предложен эффективный параллельный алгоритм для MPNN-моделей, который минимизирует дополнительный обмен данными и позволяет моделям линейно масштабироваться с увеличением количества слоёв. Это позволяет проводить масштабные молекулярно-динамические симуляции на сотнях миллионов атомов с высокой скоростью, расширяя возможности применения MPNN-потенциалов. arXiv: 2505.06711 Обзоры | Физика

Эффективное распараллеливание нейросетей на основе передачи сообщений

Модели машинного обучения, основанные на нейронных сетях с механизмом передачи сообщений (MPNN), показали высокую точность в атомном моделировании, но их параллелизация для масштабных вычислений затруднительна из-за плохой масштабируемости и необходимости обмена данными. Предложен эффективный параллельный алгоритм для MPNN-моделей, который минимизирует дополнительный обмен данными и позволяет моделям линейно масштабироваться с увеличением количества слоёв. Это позволяет проводить масштабные молекулярно-динамические симуляции на сотнях миллионов атомов с высокой скоростью, расширяя возможности применения MPNN-потенциалов.

arXiv: 2505.06711

Обзоры | Физика