Введение в TinyML

Машинное и глубокое обучение.
Машинное обучение - это направление искусственного интеллекта AI (Artificial Intelligence), которое фокусируется на создании приложений, которые обучаются на основе данных и со временем повышают свою точность. Этот процесс осуществляется без использования традиционного программирования на основе правил. Машинное обучение позволяет машинам наблюдать, классифицировать и учиться на ошибках, подобно людям. Глубокое обучение - это подмножество машинного обучения, которое использует глубокие искусственные нейронные сети (отсюда и название глубокое обучение) для обучения на больших объемах данных

Искусственные нейронные сети (ANNs) - это сеть нейронов, которая пытается имитировать состав человеческого мозга. ANNs создаются с помощью компьютерного программирования, которые ведут себя подобно клетки мозга, которые соединяются друг с другом.

Для того чтобы изучить ANN (Artificial Neural Networks), вам необходимо подготовить огромный объем информации, который называется "обучающий набор". Когда вы пытаетесь научить ANN различать кошку и собаку, обучающее множество будет представлять собой тысячи изображений, помеченных собаками и кошками, которые позволят нейронной сети научиться нейронной сети научиться. Как только нейронная сеть будет обучена на значительном количестве данных, она сможет сможет классифицировать поступающие данные на основе того, что она научилась видеть (или слышать, в зависимости от набора данных) в различных блоках. В процессе обучения выходные данные машины сравнивается с предоставленным человеком описанием того, что должно наблюдаться. Если они совпадают, машина проходит проверку. Если они неверны, машина использует обратное распространение для корректировки своего обучения. Назад
Обратное распространение - это процесс возвращения назад через слои для корректировки математического уравнения.
Известный как "глубокое обучение", этот процесс делает сеть интеллектуальной.

Что такое TinyML и почему TinyML важен?
Как правило, для обучения глубоких нейронных сетей требуются довольно мощные вычислительные ресурсы на вычисление и развертывание. Однако недавно появилось встраиваемое машинное обучение под названием TinyML. Оно представляет область исследования в машинном обучении встраиваемых систем, которые изучают, какие приложения машинного обучения (после сокращения, оптимизации) могут быть запущены на устройствах размером с микроконтроллер.ML, как вы уже догадались, означает "машинное обучение". ML, как вы уже догадались, означает "машинное обучение". Tiny в TinyML означает, что модели ML оптимизированы для работы на устройствах с очень низким энергопотреблением и малой площадью, таких как различные микроконтроллеры (MCU)

Встраиваемые устройства бывают самых разных форм и размеров, начиная от "встраиваемого суперкомпьютера" Nvidia Jetson Xavier AGX до мельчайших микроконтроллеров, например, ESP32 или Cortex M0

На следующем рисунке показана плата разработки GeeekNET ESP 32.

Почему встроенный ML на микроконтроллерах отнесен к особой категории и даже получил собственное название?
Ответ заключается в том, что он имеет свой собственный набор преимуществ и ограничений. Привлекательность TinyML в том, что микроконтроллеры повсеместно распространены, малы, потребляют небольшое количество энергии и являются сравнительно дешевы. Возьмем ARM Cortex M0+ и маленькую плату Seeeduino XIAO, которая построена на его основе. Плата размером как большой палец (20×17,5 мм) и потребляет всего 1,33 мАч энергии (что означает, что она может работать в режиме ~1,33 мАч ~112 часов от батареи 150 мА. Это время может быть увеличено если перевести устройство в режим глубокого сна. Его цена составляет всего 5 долларов США.

Благодаря недавним улучшениям в оптимизации моделей и появлению фреймворков специально созданных для выполнения вывода моделей машинного обучения на микроконтроллерах. Это стало возможным придать больше интеллекта этим крошечным устройствам. Теперь мы можем развернуть нейронные сети на микроконтроллерах для распознавания звуковых сцен (например, активности слона или звука бьющегося стекла), определения горячих слов (для активации устройства определенной фразой) или даже для простых задач распознавания изображений. Устройства со встроенными микроконтроллерами могут быть использованы для того, чтобы дать новую жизнь и смысл старым датчикам.

Для подготовки данной статьи были частично использованы материалы с сайта https://www.seeedstudio.com/