Почему EDGE ML/AI устройства перспективны для бизнеса
Растущая потребность внедрения визуального контроля в большое количество бизнес-задач стала хорошей возможностью для проникновения систем компьютерного зрения в различные технологические процессы. Можно выделить следующей основные требования к подобным системам:
- автоматический контроль;
- скорость принятия решения;
- простота внедрения;
- цена использования.
Что такое EDGE ML/AI
В настоящее время многие устройства и системы компьютерного зрения на базе ИИ работают принципы серверных вычислений. То есть камера является видео сенсором и передатчиком видеопотока на сервер. Вся логика и вычисления выполняются сервером. Очевидно, что это накладывает определённые требования на построение инфраструктуры:
- организация стабильного канала связи с высокой пропускной способностью;
- содержание серверных мощностей с большим объёмом хранилищ.
С развитием узкоспециализированных SoC (System-on-Chip) для систем ИИ с мощными аппаратными NPU (Neural Processing Unit) появилась возможность считать алгоритмы обработки видео изображение целиком на стороне устройства. Именно это дало развитие целому направлению разработки, которое получило название EDGE ML/AI.
Итак, EDGE ML/AI – устройства компьютерного зрения с функцией ИИ с обработкой вычислений на стороне устройства.
Популярные HW платформы (производители) для построения подобных устройств - Ingenic, RockChip, NXP, MediaTek, Qualcomm и др.
Сегодня вычислительные возможности SoC позволяют использовать незначительный ресурс при передаче по сравнению с «традиционным» подходом (обработка на сервере). Отправляя на сервер только нужные фрагменты данных, мы снижаем затраты на интернет-провайдеров, уменьшаем инфраструктуру сервера, упрощаем серверное программное обеспечение и уменьшаем влияние на окружающую среду. Последнее особенно актуально в последние годы, по грубым подсчетам 8 камер, постоянно транслирующих видео, имеют такой же углеродный след, как средний эксплуатируемый автомобиль.
Немаловажным фактором является время реакции на видео событие, потому как передача и обработка информации на сервере занимает существенное количество времени, которое в некоторых задачах критично, например: детекция обстановке на дороге у движущегося транспорта или контроль безопасности работника на предприятии.
Еще один аспект, меняющий правила игры, — конфиденциальность. Разработка продуктов и услуг компьютерного зрения во многих странах сдерживается законами о защите конфиденциальности. У EDGT ML/AI есть большой потенциал, чтобы сделать эти продукты возможными. В качестве примера технологии - камера наблюдения, которая выдает только видеофрагменты с авариями и фильтрами анонимизации, применяемыми ко всем попавшим в кадр людям.
Именно эти преимущества EDGE ML/AI устройств открывают существенные перспективы в повсеместном использовании в автоматизации рабочих процессов.
Где использовать EDGE ML/AI
В настоящий момент основными потребителями подобных устройств являются:
- владельцы коммерческих флотов;
- крупный ретейл;
- складская логистика.
Однако, современные SoC для CV имеют ограничения по вычислительным способностям, которые не дают реализовывать более сложные и комплексные задачи, но ежегодный рост производительности встроенных NPU даёт всё основания полагать, что в ближайшее время все вычисления будут на стороне устройства.
Важно сказать, что хотя традиционный подход может показаться устаревшим, на самом деле он просто другой, и нет единого ответа для всех технических случаев.
Что мы уже умеем делать с EDGE ML/AI?
Уже сейчас мы разработали собственную программно-аппаратную EDGE платформу на базе бюджетного SoC с нейронным процессорным модулем. Усиление внутренних компетенций по работе с ML-стеком позволяет нам оперативно создавать MVP под задачи заказчика. Так, например задача детекции различных объектов с обводкой боксами уже успешно реализована.
Особую важность представляет алгоритм сегментации изображения, которые требует более существенных ресурсных затрат для реализации на EDGE. В настоящий момент алгоритм реализован, но нуждается в отладке для удовлетворительной работы. Сегментация поможет решать задачи по детекции поверхностей, например дороги или тротуара, что особенно важно в системах помощи водителю.