TinyML: приложения, ограничения и использование в устройствах IoT и Edge

Dec 11, 2023

К

За последние несколько лет искусственный интеллект (ИИ) и машинное обучение (МО) стали свидетелями стремительного роста популярности и применения не только в промышленности, но и в научных кругах. Однако сегодняшние модели машинного обучения и искусственного интеллекта имеют одно серьезное ограничение: они требуют огромных вычислительных и вычислительных мощностей для достижения желаемых результатов и точности. Это часто ограничивает их использование высокопроизводительными устройствами со значительной вычислительной мощностью.

Но, учитывая достижения, достигнутые в технологии встроенных систем, и значительное развитие индустрии Интернета вещей, желательно включить использование методов и концепций ML во встроенную систему с ограниченными ресурсами для повсеместного интеллекта. Желание использовать концепции машинного обучения во встроенных системах и системах Интернета вещей является основным мотивирующим фактором разработки TinyML, встроенного метода машинного обучения, который позволяет использовать модели и приложения машинного обучения на нескольких дешевых устройствах с ограниченными ресурсами, энергопотреблением.

Однако реализация машинного обучения на устройствах с ограниченными ресурсами оказалась непростой задачей, поскольку реализация моделей машинного обучения на устройствах с низкой вычислительной мощностью сопряжена с собственными проблемами с точки зрения оптимизации, вычислительной мощности, надежности, обслуживания моделей и многого другого.

В этой статье мы более глубоко углубимся в модель TinyML и узнаем больше о ее истории, инструментах, поддерживающих TinyML, и приложениях TinyML с использованием передовых технологий. Итак, начнем.

Интернет вещей или устройства IoT нацелены на использование периферийных вычислений, вычислительной парадигмы, которая относится к ряду устройств и сетей рядом с пользователем, чтобы обеспечить плавную обработку данных в реальном времени от миллионов датчиков и устройств, соединенных друг с другом. Одним из основных преимуществ устройств Интернета вещей является то, что они требуют низкой вычислительной и вычислительной мощности, поскольку их можно развернуть на границе сети, и, следовательно, они занимают мало памяти.

Кроме того, устройства Интернета вещей в значительной степени полагаются на периферийные платформы для сбора и последующей передачи данных, поскольку эти периферийные устройства собирают сенсорные данные, а затем передают их либо в ближайшее место, либо на облачные платформы для обработки. Технология периферийных вычислений хранит и выполняет вычисления над данными, а также обеспечивает необходимую инфраструктуру для поддержки распределенных вычислений.

Реализация периферийных вычислений в устройствах Интернета вещей обеспечивает

Более того, поскольку периферийные устройства могут использовать технологию совместной работы между датчиками и облаком, обработка данных может проводиться на границе сети, а не на облачной платформе. Это может привести к эффективному управлению данными, их сохранению, эффективной доставке и кэшированию контента. Кроме того, внедрение Интернета вещей в приложениях, связанных с H2M или взаимодействием человека с машиной и современными периферийными вычислениями в здравоохранении, дает возможность значительно улучшить сетевые услуги.

Недавние исследования в области периферийных вычислений Интернета вещей продемонстрировали потенциал реализации методов машинного обучения в нескольких случаях использования Интернета вещей. Однако основная проблема заключается в том, что традиционные модели машинного обучения часто требуют мощных вычислительных и вычислительных мощностей, а также большого объема памяти, что ограничивает реализацию моделей машинного обучения в устройствах и приложениях Интернета вещей.

Кроме того, технологиям периферийных вычислений сегодня не хватает высокой пропускной способности и эффективного энергосбережения, что приводит к гетерогенным системам, что является основной причиной потребности в гармоничной и целостной инфраструктуре, главным образом для обновления, обучения и развертывания моделей машинного обучения. Архитектура, разработанная для встраиваемых устройств, представляет собой еще одну проблему, поскольку эти архитектуры зависят от требований к аппаратному и программному обеспечению, которые варьируются от устройства к устройству. Это основная причина, по которой сложно построить стандартную архитектуру машинного обучения для сетей Интернета вещей.

Кроме того, в текущем сценарии данные, генерируемые различными устройствами, отправляются на облачные платформы для обработки из-за трудоемкого характера сетевых реализаций. Кроме того, модели машинного обучения часто зависят от глубокого обучения, глубоких нейронных сетей, специализированных интегральных схем (ASIC) и графических процессоров (GPU) для обработки данных, и они часто имеют более высокие требования к мощности и памяти. Развертывание полноценных моделей машинного обучения на устройствах Интернета вещей не является жизнеспособным решением из-за очевидной нехватки вычислительных и вычислительных мощностей, а также ограниченных решений для хранения данных.