Основы ИИ для периферийных устройств (1/4)

Этот модуль знакомит с базовыми концепциями периферийного искусственного интеллекта (Edge AI) и закладывает теоретическую основу для понимания того, как реализовывать решения на основе машинного обучения на устройствах с ограниченными ресурсами — микроконтроллерах и встраиваемых системах.

Введение в Edge AI

Основы машинного обучения

Прежде чем углубляться в Edge AI, стоит разобраться, что вообще представляет собой модель машинного обучения. Машинное обучение — это раздел искусственного интеллекта (ИИ), который позволяет компьютерным системам учиться на данных и делать прогнозы или принимать решения без явного программирования для каждой конкретной ситуации [1].

Модель машинного обучения — это математическое представление некоего события или процесса, которое фиксирует зависимости между входными и выходными переменными этого события.

Рассмотрим практический пример: модель машинного обучения, обученная обнаруживать аномалии в вибрациях промышленного двигателя. Создание такой модели включает два фундаментальных этапа:

• (1) Обучение (Training): На этом этапе модель анализирует размеченный набор данных (входные данные с соответствующими правильными ответами) и подстраивает внутренние параметры, чтобы минимизировать ошибку между своими прогнозами и реальными значениями [2]. В нашем примере она учится распознавать, какие паттерны вибраций соответствуют нормальной работе, а какие сигнализируют о возможных неисправностях. Этот этап требует значительных вычислительных ресурсов и обычно выполняется на мощных компьютерах или в облаке.

• (2) Инференс (Inference): После обучения модель способна обрабатывать новые, ранее не виденные данные и генерировать прогнозы на основе усвоенных паттернов. Этот этап гораздо менее требователен к вычислительным ресурсам — именно он выполняется на периферийных устройствах. В случае с вибрациями двигателя модель анализирует новые измерения и классифицирует их в реальном времени как нормальные или аномальные, позволяя операторам принимать превентивные решения.

Что такое Edge AI?

Теперь, понимая принцип работы моделей машинного обучения, разберёмся, где именно они выполняются. Традиционно инференс сложных моделей требовал мощных серверов или облачных сервисов. Edge AI меняет эту парадигму.

Edge AI — это смена подхода к развёртыванию алгоритмов искусственного интеллекта. Вместо отправки данных на удалённые серверы Edge AI выполняет фазу инференса непосредственно на локальных устройствах: микроконтроллерах, умных датчиках или встраиваемых системах [3].

Слово «edge» (периферия, граница) обозначает физическое место, где данные генерируются и обрабатываются: на краю сети, вблизи источника информации.

В рамках этой парадигмы выделяется важная специализация — TinyML (Tiny Machine Learning). TinyML сфокусирован на запуске моделей машинного обучения на устройствах с крайне ограниченными вычислительными ресурсами: микроконтроллерах с памятью порядка килобайт (kB) и потреблением в диапазоне милливатт (mW) [4]. Эта технология позволяет встраивать возможности искусственного интеллекта в устройства, которые ещё недавно считались слишком слабыми для запуска сложных алгоритмов.

Облачные вычисления vs. периферийные вычисления

Чтобы лучше понять ценность Edge AI, важно разграничить облачные и периферийные вычисления. У каждой модели есть свои характерные особенности, определяющие её пригодность для тех или иных задач.

Облачные вычисления (Cloud Computing)

В модели облачных вычислений данные от датчиков или устройств передаются через интернет на удалённые серверы с высокой вычислительной мощностью. Эти серверы выполняют сложные алгоритмы, хранят большие объёмы информации и возвращают результаты на исходное устройство.

Основные характеристики облачных вычислений:

• Доступ к практически неограниченным вычислительным ресурсам
• Огромная ёмкость хранилища
• Простота обновления и обслуживания моделей
• Зависимость от интернет-соединения
• Переменная задержка в зависимости от состояния сети
• Потенциальные уязвимости в плане конфиденциальности [5]

Периферийные вычисления (Edge Computing)

Edge Computing переворачивает модель облачных вычислений: обработка происходит на том же устройстве, которое собирает данные, или на ближайшем к нему узле. Данные не нужно отправлять на внешние серверы — локальное устройство само выполняет необходимые алгоритмы анализа и немедленно генерирует ответ.

Основные характеристики периферийных вычислений:

• Локальная обработка без зависимости от интернет-соединения
• Отклик в реальном времени с минимальной задержкой
• Повышенная конфиденциальность данных
• Ограниченные вычислительные ресурсы
• Большая операционная автономность

Гибридные архитектуры

Важно понимать, что обе вычислительные парадигмы не исключают друг друга. Во многих современных приложениях встречаются гибридные архитектуры: первичная обработка и критически важные решения в реальном времени принимаются на периферии, тогда как обучение моделей, исторический анализ и удалённый мониторинг выполняются в облаке [6]. Такое сочетание позволяет использовать сильные стороны каждой парадигмы в зависимости от конкретных потребностей приложения.

Преимущества Edge AI

Рассмотрим конкретные преимущества Edge AI, которые делают его отличным выбором для встраиваемых приложений с ограниченными ресурсами, но высокими требованиями к производительности.

Низкая задержка

Отсутствие необходимости передавать данные на удалённые серверы и ждать ответа позволяет Edge AI обеспечивать время отклика в миллисекундах (ms). Исследования показывают, что архитектуры на основе периферийных вычислений могут снизить задержку доступа до 30% по сравнению с исключительно облачными решениями [7].

Эта характеристика критически важна в приложениях, где скорость реакции определяет эффективность всей системы:

• Управление промышленными процессами
• Автономная робототехника
• Системы безопасности и видеонаблюдения
• Автономные транспортные средства
• Медицинские устройства мониторинга

Конфиденциальность и безопасность данных

Чувствительные данные остаются на локальном устройстве и никогда не передаются через внешние сети. Это существенно сокращает поверхность атаки для киберугроз и упрощает соответствие нормативным требованиям по защите данных [8].

В медицинских, промышленных или охранных приложениях эта характеристика может быть обязательным требованием для соответствия таким нормативам, как GDPR в Европе или HIPAA в США.

Работа без интернета

Устройства с Edge AI работают автономно, независимо от наличия интернет-соединения. Эта независимость необходима в следующих случаях:

• Развёртывание в удалённых локациях (сельское хозяйство, горнодобывающая промышленность, экспедиции)
• Промышленные среды с ограниченным или запрещённым доступом в интернет
• Приложения, непрерывность работы которых не может зависеть от внешних факторов
• Аварийные ситуации, в которых сетевая инфраструктура может быть нарушена [9]

Энергоэффективность

Локальная обработка устраняет энергозатраты, связанные с непрерывной передачей данных через интернет. Кроме того, современные микроконтроллеры, оптимизированные для Edge AI, поддерживают режимы пониженного энергопотребления, позволяющие долго работать от аккумулятора.

Типичный микроконтроллер потребляет энергию в диапазоне милливатт (mW) или микроватт (µW) — более чем в тысячу раз меньше, чем обычный компьютер [10]. Это открывает возможности для:

• Носимых устройств и гаджетов
• Датчиков с питанием от аккумуляторов или альтернативных источников (например, солнечных батарей)
• Массового развёртывания устройств Интернета вещей (IoT) с низкими операционными затратами

Снижение операционных затрат

Минимизация передачи данных и зависимости от облачных сервисов снижает расходы, связанные с:

• Пропускной способностью и передачей данных
• Хранением на удалённых серверах
• Обработкой в облачной инфраструктуре
• Обеспечением постоянного подключения

По прогнозам ABI Research, к 2030 году будет поставлено 2,5 миллиарда устройств со специализированными чипсетами для Edge AI — именно благодаря этим экономическим и техническим преимуществам [11].

Аппаратное обеспечение для Edge AI

Когда преимущества Edge AI понятны, возникает практический вопрос: какое железо нужно для реализации таких решений? В этом разделе рассмотрим, какими характеристиками должен обладать микроконтроллер для запуска моделей машинного обучения, и сосредоточимся на плате Arduino® UNO R4 WiFi — именно она будет использоваться на протяжении всего курса.

Архитектуры микроконтроллеров для ИИ

Не все микроконтроллеры одинаково подходят для запуска моделей машинного обучения. Ключевые характеристики, определяющие пригодность микроконтроллера для Edge AI:

1. Вычислительная мощность: Тактовая частота и архитектура процессора определяют количество операций в секунду. Процессоры Arm Cortex-M особенно популярны в Edge AI благодаря балансу между производительностью и энергоэффективностью.

1. Доступная память: Модели машинного обучения требуют памяти для хранения параметров модели (Flash) и выполнения промежуточных вычислений во время инференса (SRAM). Объём доступной памяти напрямую ограничивает размер и сложность запускаемых моделей.

1. Специализированная периферия: Некоторые микроконтроллеры включают блоки цифровой обработки сигналов (DSP) или аппаратные ускорители для математических операций, типичных в машинном обучении.

1. Энергопотребление: Для приложений с питанием от аккумулятора критически важно потребление как в активном режиме, так и в режиме сна.

Платы Arduino для Edge AI

Arduino предлагает несколько плат, разработанных для Edge AI, каждая из которых ориентирована на определённые сценарии использования:

• Arduino Nicla Vision: Предназначена для компьютерного зрения, оснащена встроенной камерой 2 МП, двухъядерным процессором STM32H747 и несколькими интегрированными датчиками. Идеальна для распознавания изображений и объектов.
• Arduino Nano 33 BLE Sense Rev2: Компактная плата с множеством встроенных датчиков окружающей среды (IMU, микрофон, температура, влажность, давление, освещённость). Отличный выбор для классификации звука, определения жестов и мониторинга среды.
• Arduino Portenta H7: Высокопроизводительная плата с двухъядерным процессором STM32H747, ориентированная на промышленные приложения с повышенными требованиями к вычислительной мощности.
• Arduino UNO R4 WiFi: Эволюция культовой линейки UNO с микроконтроллером Renesas RA4M1, подключением Wi-Fi/Bluetooth® и возможностями для базовых приложений TinyML.

В этом курсе мы будем работать преимущественно с платой Arduino UNO R4 WiFi — из-за её доступности, знакомости для тех, кто уже работал с Arduino, и достаточных возможностей для изучения основ Edge AI.

Arduino UNO R4 WiFi: плата курса

Arduino UNO R4 WiFi — это эволюция семейства UNO, в которой установлен значительно более мощный микроконтроллер по сравнению с предшественниками, при этом сохранена совместимость с экосистемой Arduino. Это сочетание делает её отличной образовательной платформой для Edge AI.

Аппаратные компоненты платы Arduino UNO R4 WiFi: разъём USB-C, разъём питания DC (barrel), матрица светодиодов, разъём Qwiic, а также стандартные выводы и интерфейсы.

Технические характеристики UNO R4 WiFi представлены ниже [13]:

Несмотря на то что UNO R4 WiFi имеет более скромные ресурсы, чем специализированные платы вроде Nicla Vision или Portenta H7, её возможностей вполне достаточно для реализации Edge AI моделей в различных сценариях. Плата способна запускать небольшие классификационные модели (до примерно 50 KB) — идеально для обнаружения аномалий, классификации паттернов вибраций, простого распознавания жестов и базовой классификации звуковых сигналов.

Практическое замечание

Если вы только начинаете знакомство с Edge AI и у вас уже есть Arduino UNO R4 WiFi, можно сразу запустить её и убедиться, что среда Arduino IDE распознаёт плату. Это позволит избежать неприятных сюрпризов в момент, когда придёт время загружать первую модель.

Реальные применения Edge AI

Изучив теоретические концепции и доступное железо, посмотрим, как Edge AI применяется на практике. Эти примеры наглядно показывают потенциал технологий, которые мы будем осваивать в курсе.

Промышленные применения

Предиктивное обслуживание: Датчики вибрации, подключённые к промышленным двигателям, могут обнаруживать аномальные паттерны, предшествующие механическим поломкам. Обрабатывая данные локально, система генерирует немедленные предупреждения без зависимости от внешнего подключения. Arduino разработала конкретные примеры для этого сценария с использованием плат Nano R4 с внешними акселерометрами [12].

Визуальный контроль качества: Камеры с локальной обработкой могут инспектировать продукты на производственных линиях, выявляя дефекты в реальном времени без необходимости передавать изображения на внешние серверы.

Мониторинг окружающей среды: Сети датчиков в промышленных объектах способны обнаруживать утечки газа, перепады температуры или опасные условия, обрабатывая данные локально для немедленного реагирования.

Коммерческие применения

Умный ритейл: Системы видеонаблюдения могут подсчитывать посетителей, анализировать потоки покупателей и обнаруживать пустые полки — без передачи видео в облако и с сохранением конфиденциальности клиентов.

Точное земледелие: Датчики на полях способны анализировать состав почвы, выявлять вредителей или болезни растений и оптимизировать полив, работая автономно в местах без интернета.

Умные здания: Системы HVAC могут оптимизировать энергопотребление на основе локально определяемых паттернов занятости помещений — без облачной инфраструктуры.

Тенденции развития

Область Edge AI стремительно эволюционирует. Понимание этих тенденций помогает предвидеть, куда движется технология:

• Специализированное железо: Новые микроконтроллеры включают специализированные ускорители для операций с нейронными сетями, существенно повышая производительность без роста энергопотребления.
• Более эффективные модели: Исследования архитектур нейронных сетей, оптимизированных для встраиваемых устройств, продолжают давать всё более компактные и эффективные модели без потери точности.
• Упрощённые инструменты разработки: Platforms like Edge Impulse демократизируют доступ к Edge AI, позволяя разработчикам без глубоких знаний машинного обучения создавать и развёртывать модели.
• Федеративное обучение: Техники, позволяющие улучшать модели на основе данных с множества устройств без централизации информации — конфиденциальность сохраняется, а коллективный опыт используется.

Итоги модуля

В этом модуле мы заложили концептуальную основу для понимания Edge AI:

• Модель машинного обучения учится на данных в процессе обучения (training) и использует усвоенные паттерны для прогнозов во время инференса (inference).
• Edge AI выполняет инференс модели непосредственно на локальных устройствах, вблизи источника данных.
• Главные преимущества Edge AI: низкая задержка, конфиденциальность данных, автономная работа и энергоэффективность.
• Плата Arduino UNO R4 WiFi будет нашей платформой разработки на протяжении курса — она предлагает хороший баланс между доступностью и возможностями для Edge AI.
• Реальные применения Edge AI охватывают промышленное предиктивное обслуживание, точное земледелие и умные здания.

В следующем модуле мы подробнее разберём основы машинного обучения: типы алгоритмов, наиболее актуальные для периферийных устройств, и техники оптимизации, позволяющие запускать модели на микроконтроллерах.

Список литературы

[1] IBM, "What is machine learning?" IBM Think, 2025. [Online]. Available: https://www.ibm.com/think/topics/machine-learning

[2] I. Goodfellow, Y. Bengio, and A. Courville, "Machine learning basics," in Deep Learning. Cambridge, MA, USA: MIT Press, 2016, ch. 5. [Online]. Available: https://www.deeplearningbook.org/contents/ml.html

[3] C. R. Banbury et al., "Machine learning for embedded systems: A case study," arXiv preprint arXiv:2303.13569, 2023.

[4] P. Warden and D. Situnayake, TinyML: Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers. Sebastopol, CA, USA: O'Reilly Media, 2019.

[5] T. Sampath, A. Dutt, V. Veeraiah, B. Aishwarya, K. Lal, and D. Kapila, "Analyzing the effect of edge computing on real-time data processing and latency reduction," in Proc. 10th IEEE Uttar Pradesh Section Int. Conf. Electr., Electron. Comput. Eng. (UPCON), Gautam Buddha Nagar, India, 2023, pp. 623–627, doi: 10.1109/UPCON59197.2023.10434652.

[6] Y. Abadade, A. Temouden, H. Bamoumen, N. Benamar, Y. Chtouki, and A. S. Hafid, "A comprehensive survey on TinyML," IEEE Access, vol. 11, pp. 96892–96922, 2023, doi: 10.1109/ACCESS.2023.3294111.

[7] F. Breitbach, L. Trestian, P. Bujari, P. Bellavista, and G. Haring, "(How much) can edge computing change network latency?" in Proc. IFIP Netw. Conf., Espoo, Finland, 2021, pp. 1–9, doi: 10.23919/IFIPNetworking52078.2021.9472790.

[8] A. Garcia, P. Serrano, D. Urda, J. J. Rodriguez, and C. Garcia-Osorio, "Embedded AI and TinyML: A practical analysis of workflows and libraries," in Distributed Computing and Artificial Intelligence (DCAI 2024), vol. 1259, Lecture Notes in Networks and Systems. Cham, Switzerland: Springer, 2025, pp. 1–10.

[9] E. Lear et al., "Internet of Things (IoT) edge challenges and functions," RFC 9556, Internet Research Task Force (IRTF), Apr. 2024. [Online]. Available: https://datatracker.ietf.org/doc/rfc9556/

[10] AIMultiple Research, "TinyML: Machine learning at the edge," 2024. [Online]. Available: https://research.aimultiple.com/tinyml/

[11] R. Kallimani et al., "TinyML: Enabling of inference deep learning models on ultra-low-power IoT edge devices for AI applications," Micromachines, vol. 13, no. 6, p. 851, May 2022, doi: 10.3390/mi13060851.

[12] Arduino Product Experience Team, "Motor anomaly detection with the Nano R4," Arduino Application Notes, 2025. [Online]. Available: https://docs.arduino.cc/tutorials/nano-r4/motor-anomaly-detection/

[13] Arduino, "UNO R4 WiFi," Arduino Documentation, 2024. [Online]. Available: https://docs.arduino.cc/hardware/uno-r4-wifi/