«Умный» инженерный поиск
находит оптимальные конструкции
оборудования для нейромоделей.
С развитием и ростом популярности приложений машинного обучения, в попытках обеспечения стабильной работы в режиме реального времени, многократно возросла их ресурсоёмкость. Производители аппаратной части стали включать в конструкции специализированные компоненты, повышающие системное быстродействие, влияя, в частности, на перемещения и обработку огромных объёмов данных. Однако, будучи и без того непростой задачей, разработка этих ускорителей осложняется ещё и требованиями к понижению уязвимостей аппаратных средств к внешним атакам. Как можно догадаться, в случае с диапазонами использования ИИ (медицина, автопилоты и т. д.), пренебрежение конфиденциальностью информации приобретает весьма критичное значение.
В поисках оптимальных решений, исследователи Массачусетского технологического института решили воспользоваться старым народным правилом «клин клином вышибают», и для вящего решения искусственно-интеллектуальных задач они разработали столь же «нейро-умную» поисковую систему SecureLoop. Она умеет эффективно определять оптимальные конструкции ускорителей нейросетей глубокого обучения, которые значительно повышают производительность и в то же время полностью отвечают требованиям соблюдения конфиденциальности обрабатываемых сведений. Теперь инженеры смогут использовать этот «автопроектировщик» для получения оптимальной конструкции ускорителя, адаптированной к его нейронной сети и задаче машинного обучения.
Ускоритель глубоких нейронных сетей, представляя собой процессор с массивом вычислительных блоков, распараллеливает операции на каждом уровне сети. Однако место для информации на его кристалле ограничено, поэтому большая часть данных хранится во внешней памяти и извлекается ускорителем при необходимости. Это хранение данных вне чипа обусловливает уязвимости устройства: злоумышленник может украсть информацию или изменить некоторые значения, что приведёт к сбою в работе нейромодели или к фальшивости её результатов.
«Как производитель чипов, вы не можете гарантировать безопасность внешних устройств или операционной системы в целом», ‒ объясняет аспирантка Кёнми Ли, ведущий автор проекта.
Обходят это безобразие с помощью проверки ускорителем каждого фрагмента данных ‒ при каждом же обращении к ним ‒ на соответствие шифрованию, применённому во время отправки их на сохранение. Однако такая проверка как уменьшает скорость работы, так и повышает энергозатраты. С помощью же SecureLoop исследователи надеялись найти метод, который мог бы определить наиболее эффективный график работы ускорителя. И им это удалось путём добавления к уже существующей поисковой системе Timeloop, ранее разработанной в MIT, неймодели, назначением которой стал учёт дополнительных обращений, необходимых для шифрования и аутентификации данных.
Это вылилось в гораздо более эффективный способ работы: система выдаёт график работы ускорителя, включающий в себя стратегию группирования данных и размер блоков аутентификации, что само по себе обеспечивает максимально возможную скорость и энергоэффективность для конкретной нейросети. Так, при тестировании на симуляторе, SecureLoop предъявил графики, оказавшиеся на треть быстрее и вполовину более экономными по энергии, чем другие методы, которые, к тому же, вовсе не учитывают соблюдение и обеспечение безопасности данных.
По материалам АРМК.