Наука уходит в онлайн

Хотя мы можем не знать об этом, сегодня мы сталкиваемся с методами машинного обучения повсюду при использовании Интернета. В значительной степени они управляют, например, социальными сетями, которые мы широко используем, и обслуживают результаты поисковых систем. Вскоре алгоритмы, широко известные как «глубокое обучение», смогут взять под контроль наше здоровье или бытовую технику…

В ноябре 2020 года в СМИ появилась информация о новом решении, разработанном специалистами MIT, которое позволяет методы обработки передачи данныхдо сих пор известен как мощный нейронные сетиминиатюризировать чипсы в носимых медицинских устройствах, бытовой технике и до 250 миллиардов других устройств, которые теперь составляют то, что мы называем.

Эта система, названная MCUNet, строит компактные нейронные сети, которые обеспечивают беспрецедентную для IoT-устройств скорость и точность обработки типов глубокое обучение. И все это несмотря на все еще очень ограниченную память и вычислительную мощность. Эта технология может способствовать расширению вселенной Интернета вещей, экономя при этом энергию и повышая безопасность данных.

«Немного глубокого обучения»

На согласованную дату начала Интернет вещей (1) считается днем ​​в 1978 году, когда студенты Университета Карнеги-Меллона, включая Майк Казар, подключил машину для раздачи колы к Интернету. Их мотивацией была в основном лень, так как торговый автомат стоял на расстоянии от комнаты, где они работали. Они хотели убедиться, что есть смысл отправиться в поездку за напитком, т. е. кола действительно была в торговом автомате. «Мы считали это чем-то вроде шутки, — вспоминал журналистам Казар, ныне работающий инженером в Microsoft. «Тогда никто не ожидал, что к сети будут подключены миллиарды устройств».

Сегодня в быстрорастущем Сети Интернета вещей Вы можете найти практически все, от повседневных медицинских кардиомониторов до умных охладителей, которые сообщают вам, когда у вас заканчивается молоко. Устройства в этой сети часто работают с использованием микроконтроллеры, простые компьютерные системы без операционной системы, с минимальной вычислительной мощностью и в тысячу раз меньшей памятью, чем у обычного смартфона. Таким образом, задачи распознавания образов, характерные для методы глубокого машинного обучения, трудно выполнять локально на устройствах IoT. Когда необходим сложный анализ, данные, собранные в системе IoT, часто отправляются в облако, которое.

В рамках проекта MCUNet группа исследователей Массачусетского технологического института разработала два компонента для «небольшого глубокого обучения», а именно поддержка нейронных сетей на микроконтроллерах IoT. Одним из компонентов является Крошечный двигатель, механизм вывода управления ресурсами, немного похожий на операционную систему. Крошечный двигатель он адаптирован для обработки конкретной структуры нейронной сети, которая выбирается вторым системным компонентом MCUNet, называемым TinyNAS, алгоритм поиска нейронной архитектуры.

Технологии поиска, доступные в нейронная архитектура они обычно начинают с большого массива возможных сетевых структур на основе предопределенного шаблона, а затем постепенно находят структуру с высокой точностью и низкой стоимостью. Хотя этот метод работает, он не самый эффективный. «В случае графические процессоры Lub смартфоны«, — рассказывает helpnetsecurity.com соавтор работы, Цзи Лин на факультете электротехники и компьютерных наук (EECS) Массачусетского технологического института. «Но было трудно применить эти методы непосредственно к крошечным микроконтроллерам». 

Так Лин поработал TinyNAS, метод поиска нейронной архитектуры, создающий сети нестандартных размеров. «У нас много микроконтроллеров с разной мощностью и объемом памяти, — объясняет Лин. «Поэтому мы разработали алгоритм [TinyNAS] для оптимизации пространства поиска для различных микроконтроллеров». Настраиваемый характер системы TinyNAS позволяет генерировать компактные нейронные сети с максимально возможной производительностью для данного микроконтроллера — без лишних параметров. «Затем мы передаем окончательную эффективную модель микроконтроллеру», — продолжает механизм Лин.

Чтобы запустить эту маленькую нейронную сеть, микроконтроллер ему также нужен механизм логического вывода. Типичный логический двигатель имеет тенденцию быть перегруженным подсказками для редко выполняемых задач. Дополнительный код не является проблемой для ноутбука или смартфона, но может легко перегрузить микроконтроллер. В решении нет этой нагрузки из Массачусетского Технологического Института. Флэш-памяти здесь доступен только мегабайт, так что приходилось экономно распоряжаться ресурсами. Крошечный двигатель генерирует код, необходимый для запуска нейронной сети TinyNAS. Любой дополнительно оплачиваемый код отклоняется. «Здесь мы храним только то, что нам нужно», — объясняет он. Сонг Хан, помощник Лины. «И поскольку мы разработали нейронную сеть, мы точно знаем, что нам нужно. В этом преимущество системных алгоритмов».

В тестах TinyEngine размер скомпилированного бинарный код был от 1,9 до 5 раз меньше, чем у сопоставимых логических микроконтроллеров, над которыми работают Google и ARM. Крошечный двигатель он также предлагает инновации, сокращающие время работы, в том числе встроенный т.н. механизм свертки по глубинечто снижает пиковое использование памяти почти вдвое.

Первой тестовой задачей для MCUNet была классификация изображений. Исследователи использовали базу данных IMAGEnet с помеченными изображениями, чтобы обучить систему, а затем проверить ее способность классифицировать новые изображения. На протестированном ими коммерческом микроконтроллере MCUNet правильно классифицировал 70,7%, что является значительным улучшением по сравнению с ранее протестированной системой (2), которая показала 54%. актуальность. Команда получила аналогичные результаты в тестах ImageNet трех других микроконтроллеров с точки зрения как скорости, так и точности, и MCUNet также превзошел конкурентов в аудиовизуальных задачах «пробуждающее слово», когда пользователь инициирует взаимодействие с компьютером, используя голосовые сигналы (например, «Эй, Siri») или просто войдя в комнату.

2. Один из эталонов системы MCUNet

Многообещающие результаты испытаний дают Линю и Хану надежду, что их решение станет новым стандартом для микроконтроллеров. Авторы системы отмечают, что MCUNet это также может повысить безопасность устройств IoT. «Конфиденциальность — это ключевой актив, — говорит Хан. «Вам не нужно отправлять какие-либо конфиденциальные данные в облако».

Han spins, которые не только следят за сердцебиением пользователя, кровяным давлением и уровнем кислорода, но и сами анализируют и помогают понять эту информацию, не передавая данные куда-то еще. Решение также может помочь устройствам IoT для глубокого обучения в транспортных средствах и в сельской местности с ограниченным доступом в Интернет (смотрите также: ).

ИИ + Интернет вещей = Интернет вещей

Проект, разработанный специалистами Массачусетского технологического института, относится к категории, у которой уже есть название — Àiot (3) — от Интернета вещей (IoT) и связи (ИИ). Сеть вещей собирает и обрабатывает данные, которые поступают в системы искусственного интеллекта, которые принимают решения и учатся на них. Интеллект и функциональность всей сети растут.

Практические примеры использования AIoT уже достаточно многочисленны. Возьмем, например. интеллектуальные системы продаж в магазинах. В интеллектуальной среде система камер оснащена соответствующими функциями для идентификации клиентов. Система собирает информацию о покупателях, включая их пол, предпочтения в отношении продуктов, потоки трафика с течением времени и т. д. Она анализирует данные для точного прогнозирования поведения потребителей, а затем использует эту информацию для принятия маркетинговых решений или решений о размещении на полке. Эти методы используются, например. в магазинах Амазон Го.

Другое использование мониторинг движения транспорта. Когда они используются для отслеживания большой площади беспилотные летательные аппараты, может сообщать данные о трафике, а затем, как лучше всего уменьшить трафик, регулируя ограничения скорости и без вмешательства человека. ET City Brain, решение, принадлежащее Alibaba Cloud, оптимизирует использование городских ресурсов с помощью AIoT. Эта система может обнаруживать аварии, незаконную парковку и менять светофоры, чтобы помочь машинам скорой помощи быстрее добраться до пациентов и в других чрезвычайных ситуациях.

Еще одна область, где и Интернет вещей они пересекаются, они умные здания Biurowe. Некоторые компании решают установить сеть интеллектуальных датчиков в своих офисных зданиях. Они могут обнаруживать присутствие персонала и соответствующим образом регулировать температуру и освещение для экономичного управления. энергопотребление. Интеллектуальное здание может контролировать доступ в здание с помощью технологии распознавания лиц. Комбинация сети камер и искусственного интеллекта, которая может сравнивать изображения в реальном времени с базой данных, чтобы определить, кто должен иметь доступ к зданию.

Àiot в настоящее время он используется для управления парками транспортных средств, мониторинга транспортных средств, снижения затрат на топливо и выявления опасного поведения водителей. Благодаря устройствам IoT, таким как GPS i другие датчики и система искусственного интеллекта, компании могут лучше управлять своим автопарком. Еще одна область, где AIoT используется сегодня, — это автономные системы для транспортных средств, таких как автопилот Tesla, которые используют радар, гидролокатор, GPS и камеры для сбора данных об условиях вождения, а затем ИИ для принятия решений. Аналогичным образом функционируют и другие автономные роботизированные системы.

Инфраструктура, в которой эта интеллектуальная сеть интеллектуальных вещей научится быть еще более интеллектуальной сетью еще более интеллектуальных вещей, должна стать еще более продвинутой, 6G. И это очевидное направление развития, вне зависимости от того, будет ли обработка и нейронное обучение происходить в крупных хабах, облаках или локально на небольших микроконтроллерах.