Матрицы собственных векторов для оптимизации глубоких нейронных сетей с 4-битной квантованием “`html Квантованные собственные векторные матрицы для 4-битной оптимизации второго порядка глубоких нейронных сетей Глубокие нейронные сети (DNN) достигли значительных успехов в различных областях, включая компьютерное зрение, обработку естественного языка и распознавание речи. Однако эффективное обучение крупномасштабных моделей сталкивается с проблемами. Исследователи из университетов Пекина и Сингапура представляют первый 4-битный оптимизатор второго порядка, основанный на методе Shampoo, который обеспечивает сравнимую производительность с его 32-битным аналогом. Это открывает путь для широкого использования эффективных оптимизаторов второго порядка при обучении крупномасштабных DNN. Практические решения и ценность Использование квантованных собственных векторных матриц позволяет значительно сократить затраты памяти, сохраняя при этом производительность. Это открывает новые возможности для обучения крупномасштабных DNN с использованием оптимизаторов второго порядка, что может привести к улучшению процессов и результатов в вашей компании. Для получения дополнительной информации ознакомьтесь с https://example.com/paper. Все права на это исследование принадлежат его авторам. Также не забудьте подписаться на наш https://twitter.com. Присоединяйтесь к нашему каналу в https://telegram.com, https://discord.com и группе в https://linkedin.com. Если вам нравится наша работа, вам понравится наша https://example.com/newsletter. Не забудьте присоединиться к нашему сообществу в https://reddit.com и ознакомиться с нашей платформой AI Events. Этот пост был опубликован на портале MarkTechPost. “` Если вам нужны рекомендации по управлению ИИ в бизнесе, свяжитесь с нами по адресу info@flycode.ru Изучите, как искусственный интеллект может улучшить ваши продажи и общение с клиентами. Познакомьтесь с нашими решениями на сайте itinai.ru AI Lab in Telegram @itinai - бесплатная консультация Телеграм сообщество -  @itinairu #интеллектуальныйпоиск #Генерация_лидов #Цифровой_маркетинг #ИскусственныйИнтеллект #МашинноеОбучение #AI #Робототехника #БольшиеДанные https://saile.ru/%d0%bc%d0%b0%d1%82%d1%80%d0%b8%d1%86%d1%8b-%d1%81%d0%be%d0%b1%d1%81%d1%82%d0%b2%d0%b5%d0%bd%d0%bd%d1%8b%d1%85-%d0%b2%d0%b5%d0%ba%d1%82%d0%be%d1%80%d0%be%d0%b2-%d0%b4%d0%bb%d1%8f-%d0%be%d0%bf%d1%82/