69 компаний Edge AI с NPU: чипы, SDK и YOLO (2026)

Единого рынка NPU нет. В этом неисчерпывающем обзоре собраны 69 компаний и экосистем платформ: 51 производитель с готовыми к развёртыванию чипами или платформами, девять поставщиков NPU IP и девять компаний в отдельном списке наблюдения. Они охватывают несколько несовместимых классов ускорителей и почти столько же компиляторных стеков. Большинство обещает один и тот же путь: экспортировать модель, выполнить квантизацию и компиляцию, скопировать проприетарный артефакт на плату и вызвать среду выполнения производителя. Именно детали определяют, займёт этот путь день или квартал инженерной работы.

В этом руководстве собраны компании, которые в 2026 году предлагают заслуживающее доверия оборудование для компьютерного зрения. Для каждой указаны подходящие чипы, названия SDK и компиляторов, артефакты развёртывания, уровень публичного доступа и модели, документированные самим производителем. Отдельно рассматривается Amlogic: новый стек ADLA существенно отличается от старой экосистемы NPU A311D.

Объём исследования: источники проверены 15 августа 2026 года. Заявления о поддержке конкретных моделей основаны на страницах продуктов, документации, каталогах моделей, репозиториях или руководствах производителей, если не указано иное. Рекламные показатели TOPS приведены со слов производителей и не являются результатами независимых сопоставимых бенчмарков. Это руководство для разработчиков, а не инвестиционная рекомендация или платный рейтинг.

Быстрая навигация: таблицы компаний | подробно об Amlogic | профили производителей | таблица скомпилированных артефактов | доступ и жизненный цикл | план LibreYOLO

Самый важный вывод

Аппаратные решения фрагментированы, но схема развёртывания удивительно единообразна:

PyTorch checkpoint
    -> ONNX or TFLite interchange graph
    -> representative calibration data
    -> vendor quantizer and graph compiler
    -> chip-specific binary or model package
    -> vendor runtime on the target
    -> application preprocessing, decode, NMS and rendering

ONNX явно предусматривает среды выполнения, генераторы кода и аппаратные реализации, но файл ONNX — только точка передачи. Это не означает, что каждый оператор ONNX будет преобразован для любого ускорителя. Реальное выполнение на NPU зависит от статических форм входа, ограничений на поддерживаемые операции, правил квантизации и отката на хост.

Поэтому программный стек — часть чипа. Формально быстрый NPU с закрытым или ненадёжным компилятором может оказаться хуже для развёртывания, чем менее мощное устройство с открытым набором инструментов, каталогом моделей, симулятором и стабильной средой выполнения.

Что в этом руководстве означает «поддержка»

В документации производителей слово поддержка часто используют слишком свободно. В статье выделены четыре уровня доказательств:

Это различие важно. «Импортирует ONNX» не равно «поддерживает сегментацию YOLO11». Модель может успешно разобрать граф, но выполнить его на CPU, скомпилировать с неверными значениями выходов, переполнить память ускорителя или потерять точность при квантизации.

NPU-компании и платформы: краткий обзор

В таблицах намеренно смешаны SoC, дискретные ускорители, интеллектуальные сенсоры и смежные платформы GPU/FPGA. Они конкурируют за одно и то же решение о развёртывании, хотя производители называют свои ускорители NPU, AIPU, BPU, KPU, DLA, HTP, TPU или MLA.

Встраиваемые SoC, интеллектуальные сенсоры и промышленные процессоры

Специализированные периферийные ускорители и модули

Смежные платформы, которые разработчики сравнивают с NPU

Amlogic: два поколения NPU, а не одно

Amlogic стоит рассмотреть подробнее: в интернете часто смешивают несовместимые продукты. У компании есть старый путь на базе VeriSilicon и новый проприетарный стек ADLA. У них разные компилятор, артефакт и среда выполнения.

В спецификации A311D указан исходный NPU INT8 на 5 TOPS. На старой странице приложений Khadas VIM3 и в обзоре NPU описаны DenseNet CTC, MTCNN, RetinaFace, YOLOFace, YOLOv2, YOLOv3, YOLOv3-tiny, YOLOv4, YOLOv7-tiny и YOLOv8n; в обзоре также документированы YOLOv8n-pose и пометка об устаревании FaceNet. Это реальные примеры, но они подтверждают старую экосистему Acuity .nb, а не актуальные чипы ADLA. A311D — не A311D2, а C305X — не C305X2.

Есть и аппаратная ловушка. В руководстве по ревизиям Khadas VIM4 сказано, что на исходной плате V12/A311D2 ревизии B нет NPU; заявленный NPU на 3.2 TOPS появился в V13A и более поздних платах с компонентом A311D2-N0D ревизии C. Для выбора тестового устройства недостаточно знать только название продукта.

Современный стек AMLNN и ADLA

Современный AMLNN Toolkit охватывает преобразование моделей, квантизацию, компиляцию, инференс и профилирование. В закреплённом руководстве пользователя за май 2026 года документированы импортёры ONNX, TFLite с плавающей точкой или квантизованный, TorchScript .pt и PyTorch 2 ExportedProgram/PT2. Пути для TensorFlow, Paddle и Keras в подробном руководстве помечены как планируемые, хотя обзор репозитория формулирует возможности шире. Компилятор создаёт .adla. Для развёртывания на Python используются AMLNN или amlnn_edge_toolkit_lite; для нативного C/C++ — libnnsdk.so через nnsdk2.h. Разработка на хосте может идти через ADB с nnserver; среда выполнения также рассчитана на Android, Buildroot, Yocto и отдельные конфигурации Debian/Armbian.

В опубликованные Toolkit идентификаторы платформ входят:

Это поле цели не для красоты. Для Amlogic должны совпадать .adla, nnsdk2.h, libnnsdk.so, BSP и поколения компилятора/среды выполнения. В закреплённом кратком руководстве требуются драйвер ADLA 2.0.2 или новее, NNSDK 3.0.0 или новее и NNSDK2 1.0.0 или новее; руководство по развёртыванию на Android поясняет взаимосвязь библиотеки, заголовочного файла, драйвера и BSP. .adla следует считать артефактом сборки, привязанным к ABI, а не переносимой моделью.

Квантизация также зависит от поколения NPU. В целях ADLA2 001–006 документирована компиляция W8A8 и W8A16. ADLA3 для целей 007 и 008 добавляет сочетания W4A8, W4A16, W8A8, W8A16 и W16A16, а также нативную поддержку INT4, FP16 и BF16 согласно руководству по операциям. Amlogic рекомендует от 200 до 500 репрезентативных примеров для калибровки. Опция случайных данных предназначена именно для проверки производительности, а не для квантизации с сохранением точности.

Документированный набор моделей Amlogic

Закреплённая песочница моделей Amlogic даёт более убедительные доказательства, чем общее заявление о поддержке ONNX. В опубликованной матрице поддержки/примеров указаны A311D2, S905X5, A311Y3, C305X2 и A123X. Сам факт принятия компилятором других ID целей не доказывает, что на них проверен весь список моделей.

В том же репозитории опубликованы следующие показатели работы моделей W8A8 в среде выполнения. Это измерения производителя для нейросети на NPU, а не полные показатели обработки изображения с камеры.

Здесь особенно важны оговорки. В руководстве по операциям Amlogic NMS выполняется программно и для ADLA2, и для ADLA3. В README указано, что это результаты непосредственно работы модели на NPU; предобработка и постобработка не включены. Включены ли все перемещения данных, не сказано. Показатели точности YOLO получены на подвыборках COCO из 300 изображений, а для классификации использован ImageNet val1000. Кроме того, таблицы приводят разные значения задержки YOLOv8n на A311Y3 при разных условиях, которые репозиторий не объясняет. Не раскрыты частота, режим мощности, охлаждение, точные версии SDK/BSP и длительность испытаний. Эти показатели помогают понять один стек производителя, но не ранжировать его относительно другого.

Почему Amlogic стратегически интересна

У Amlogic сочетаются четыре необычных свойства: широкое распространение встроенных SoC, недавно открытый компиляторный стек, актуальная матрица моделей, во многом совпадающая с задачами LibreYOLO, и слабая интеграция в популярные библиотеки обучения. Современные репозитории появились публично в конце 2025-го и начале 2026 года, а содержательные руководства датированы маем–июлем 2026 года. Это создаёт реальную возможность стать одним из первых и одновременно риск нестабильности API.

Надёжная интеграция должна использовать детерминированный экспорт ONNX в LibreYOLO как вход компилятора, требовать репрезентативные калибровочные изображения для сборок с низкой разрядностью, создавать .adla вместе с манифестом метаданных и загружать его через адаптер NNSDK2. Для старого A311D нужен явно отдельный артефакт .nb: представление .nb и .adla как одного бэкенда может привести к скрытым ошибкам совместимости. Верхнеуровневые репозитории Amlogic лицензированы по Apache-2.0, но перед размещением в LibreYOLO нужно напрямую проверить права на распространение комплектных wheels, общих библиотек, nnserver и Android-бинарников AAR.

Самые сильные публичные экосистемы развёртывания

У следующих компаний сейчас лучше всего сочетаются доступное оборудование, открытые технические материалы и подтверждения поддержки конкретных моделей. Это не значит, что они всегда быстрее. Их заявления о совместимости проще проверить до покупки оборудования.

Hailo

Hailo — наглядный пример экосистемы специализированных ускорителей зрения. Модели преобразуются в Hailo Archive, оптимизируются и квантизуются на репрезентативных изображениях, затем компилируются в файл Hailo Executable Format (.hef). Приложения загружают этот HEF через HailoRT.

В Hailo Model Zoo есть рецепты, предобученные модели, конфигурации постобработки и показатели производительности для детекции, сегментации, классификации, оценки позы и других задач. Среди моделей YOLO — YOLOv3/v4/v5/v6/v7/v8/v9/v10/11/12 и YOLO26, а также YOLOX, DAMO-YOLO, SSD и EfficientDet. Закреплённая по версии таблица детекции объектов для Hailo-8 — более надёжный источник совместимости, чем общая страница продукта; в отдельном приложении описаны готовые к развёртыванию пайплайны YOLO.

Важно учитывать границу версий. Для Hailo-8 и Hailo-8L используется старая линия Model Zoo 2.x, Dataflow Compiler 3.x и HailoRT 4.x, а для Hailo-10 и Hailo-15 — текущая ветка 5.x. Рецепты, поведение парсера и HEF нельзя считать взаимозаменяемыми только потому, что все устройства называются Hailo.

У Hailo-15 также отдельный уровень приложений. В нём используется Vision Processor Software Package и Hailo Media Library, а не хостовый путь в стиле TAPPAS для Hailo-8/10H. Публичный репозиторий-образец hailo-camera-apps архивирован 3 мая 2026 года, а hailo-apps-core остаётся отдельным открытым фреймворком приложений. Архивирование репозитория не доказывает снятие продукта с поддержки, но для проектов на Hailo-15 следует уточнить текущий пакет приложений в Developer Zone.

В руководстве по развёртыванию Hailo LibreYOLO намеренно останавливается на передаче статического ONNX, поскольку проприетарный компилятор нельзя включить как зависимость Python. Так проходит честная граница между подготовкой подходящего графа и заявлением о проверенном HEF.

Rockchip

Rockchip широко представлен в любительских и коммерческих системах на встроенном Linux, особенно благодаря платам RK3588, RK3576 и RK356x. Публичный RKNN-Toolkit2 преобразует и квантует модели на хосте с x86 Linux, а RKNN Runtime или Toolkit-Lite запускает итоговый .rknn на плате.

В RKNN Model Zoo необычно подробно описаны чипы, семейства моделей и точность. В текущей таблице указаны пути FP16 и INT8 для YOLOv5/6/7/8/10/11, YOLOX, PP-YOLOE, YOLO-World и вариантов сегментации YOLOv5/v8; для YOLOv8 OBB и YOLOv8 pose указан только INT8. Также есть OCR, лица и другие сети сегментации.

В LibreYOLO уже есть консервативный прямой экспортёр RKNN. Он проверяет четыре точных варианта детекции на RK3588, может сравнивать симулятор компилятора с ONNX Runtime и отклоняет неподтверждённые семейства, не считая успешную сборку гарантией корректных предсказаний. Такой ограниченный охват — хороший образец для будущих бэкендов NPU.

Axelera AI

Axelera AI, название которой часто ошибочно пишут «Accelera», разрабатывает AIPU Metis и продаёт его в устройствах M.2, PCIe и многокристальных продуктах. Семейство Metis можно заказать сейчас; Europa и Titania — анонсированные продукты, поэтому их доступность нельзя представлять одинаково. Voyager SDK открыт на GitHub и отвечает за выбор модели, компиляцию, квантизацию, выполнение и пайплайны приложений; поддержка клиентов требует аккаунта.

Публичный Voyager Model Zoo — один из самых информативных в отрасли. В нём перечислены варианты моделей, размеры входа, точность, качество и измеренная производительность для YOLOv3, YOLOv5, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, YOLO26 n/s/m/l/x, YOLOX, YOLO-NAS, OBB, позы и сегментации, а также множество моделей классификации и плотного предсказания. Указывать рядом с производительностью потерю качества при квантизации полезнее, чем сообщать одно лишь пиковое число TOPS.

Названия артефактов изменились между поколениями API. Альфа-процесс компиляции в Pipeline Builder создаёт модель .axm и может упаковать переносимый пайплайн как .axe. В документации классического пайплайна описаны .axmodel, метаданные модели и манифест. Интеграция должна определять установленное поколение Voyager, а не жёстко задавать одно расширение.

Qualcomm

Оборудование Qualcomm охватывает огромное число устройств, но за названием «NPU Qualcomm» скрываются разные интерфейсы. Разработчики используют Hexagon HTP через QAIRT/QNN, старый процесс SNPE, сервис компиляции Qualcomm AI Hub, LiteRT или провайдер выполнения QNN в ONNX Runtime — в зависимости от устройства и класса продукта.

Официальный репозиторий Qualcomm AI Hub Models — сильный источник сведений об отдельных моделях. В нём опубликованы оптимизированные пакеты для YOLOv3, YOLOv5, YOLOv6, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, детекции/сегментации/позы YOLO26, YOLOX, YOLO-World, YOLOR, RF-DETR и многих моделей классификации, глубины и позы. AI Hub также предоставляет профилирование для конкретных устройств, что важно: модель, скомпилированная для одного поколения HTP, автоматически не переносится на другое.

Основная сложность интеграции — большое число комбинаций: Android или встроенный Linux, заказные компоненты QCS или потребительский Snapdragon, архитектура HTP, версии QNN/QAIRT и схема квантизации. Текущие страницы Qualcomm расходятся в статусе Dragonwing IQ-9075: на странице продукта указано Active, а оценочный комплект EVK доступен для оценки, но в Product Longevity Program IQ-9075 всё ещё обозначен как Sampling с поддержкой до 2038 года. Префикс заказа/SKU — QCS9075; Qualcomm заявляет конфигурации 50 и 100 dense INT8 TOPS, а также поддержку Ubuntu/Yocto. Производственный статус следует подтвердить для конкретного SKU заказа, и интеграция LibreYOLO должна записывать именно этот SKU, а не создавать общий каталог «Qualcomm».

DEEPX

В ускорителях DX-M1/DX-M1M от DEEPX используется SDK DXNN. DX-COM компилирует и квантует модель, DX-RT выполняет её, а развёртываемый артефакт имеет формат .dxnn. Компания публикует DX-AllSuite, примеры приложений в DX-APP и большой онлайн-каталог моделей.

На момент проверки 15 августа 2026 года в публичном каталоге было 354 записи для DX-COM 2.4.0 и DX-RT 3.4.0. Документированный набор включает YOLOv3–YOLO11 и YOLO26, YOLOX, SSD, EfficientDet, NanoDet, DAMO-YOLO, сегментацию YOLO, позу и повёрнутые рамки. DEEPX выглядит перспективным кандидатом на интеграцию: граница между компилятором и средой выполнения и формат артефакта чётко определены, а открытый набор моделей компьютерного зрения широк.

Промышленные SoC — это несколько экосистем, а не одна

Промышленные производители часто предлагают более длительный жизненный цикл продуктов и более тесную интеграцию с камерами, требованиями безопасности и реального времени, чем поставщики плат для энтузиастов. Их AI-стеки могут быть сложнее, поскольку у одного производителя параллельно работают несколько несовместимых архитектур NPU.

Texas Instruments

К текущим edge-AI-процессорам TI относятся AM62A, AM67A, AM68A, AM69A и связанные устройства TDA4. Программный путь объединяет Processor SDK Linux, компилятор/среду выполнения TIDL, Edge AI TIDL Tools и Edge AI Model Zoo. TIDL интегрируется с ONNX Runtime, TensorFlow Lite и другими средами приложений, передавая поддерживаемые подграфы ускорителю.

TI публикует больше, чем просто заявление об импорте во фреймворк: в каталоге есть преобразованные модели и метаданные производительности для детекции объектов, сегментации, позы, классификации, глубины и других задач. TI также предупреждает, что артефакты каталога моделей — это отправные точки разработки, а не автоматически готовые к производству решения. Такое уточнение часто отсутствует в сравнениях производителей.

В качестве предварительной версии TI также указывает TDA54-Q1: до четырёх NPU C7 и до 400 TOPS для этой микросхемы; для более широкого семейства TDA5 заявлено до 1 200 TOPS. Это заявления производителя о новом поколении, но они не дают оснований переносить проверку моделей TIDL на AM6xA/TDA4 на TDA54-Q1, пока TI не опубликует матрицу конкретных целей.

NXP

Для NXP нужны как минимум четыре отдельных описания бэкендов:

В eIQ Model Zoo есть файлы или рецепты для YOLOv4-tiny, YOLOv8, NanoDet, CenterNet, FastestDet, SSD Lite, YOLACT и других моделей; запись о YOLOv5 добавлена только как документация. Проверка для одного бэкенда не подтверждает все четыре. Руководство NXP по экспорту YOLO для платформ i.MX показывает эту зависимость преобразования от целевой платформы. По словам NXP, монолитный eIQ Toolkit перестал обновляться после версии 1.17 в Q3 2025 года; сейчас используются отдельные пакеты, например eIQ Neutron SDK.

В октябре 2025 года NXP завершила приобретение Kinara. В спецификации Ara240 заявлено до 40 eTOPS и 313 изображений в секунду для YOLOv8n. NXP перечисляет Ara SDK и eIQ Toolkit на странице продукта, но это не доказывает взаимозаменяемость артефактов с отдельным путём Neutron для i.MX 95. Модуль M.2 на 16 GB имеет статус Active, тогда как USB-вариант находится в предварительном производстве. NXP расшифровывает «e» в eTOPS как «equivalent», то есть «эквивалентный», а не «эффективный»; это не метрика dense INT8 TOPS другого производителя, поэтому напрямую их сравнивать не следует.

STMicroelectronics

Устройства STM32N6x7, включая STM32N657 и STM32N647, добавляют ускоритель Neural-ART на 600 GOPS в MCU-класс; в универсальной линейке N6x5 такого ускорителя нет. STM32Cube AI Studio и ST Edge AI Core анализируют и оптимизируют импортированные модели, а STM32 AI Model Zoo Services предоставляет процессы развёртывания, оптимизации, бенчмаркинга и примеры.

В актуальном обзоре детекции объектов документированы Tiny YOLOv2, YOLOv5u, YOLOv8, YOLO11, YOLO26 и ST-YOLOX, а также сервисы классификации, позы и сегментации. Это не тот же класс производительности, что у карты PCIe на 200 TOPS. Платформа интересна тем, что получение изображения с камеры, инференс и управление могут помещаться в жёсткие ограничения по питанию и памяти встраиваемой системы.

Renesas

В процессорах Renesas RZ/V интегрированы ускорители DRP-AI. Программный стек эволюционировал от DRP-AI Translator и DRP-AI TVM к RUHMI на базе технологии EdgeCortix MERA. В открытом репозитории RZ/V DRP-AI TVM и списке проверенных моделей RZ/V2H указаны варианты YOLOv5, YOLOv8, YOLO11 и YOLO26 n/s/m, YOLOX, сети для позы и сегментации, а также модели классификации.

Renesas — серьёзный кандидат для робототехники и промышленности, но для воспроизводимости нужно записывать точную плату, поколение DRP-AI, версию Translator и постобработку на CPU.

Интеллектуальные сенсоры и процессоры для камер

Sony IMX500

IMX500 от Sony — не обычный прикладной процессор. Сенсор изображения и AI-обработка объединены так, что инференс выполняется прямо в сенсоре и из камеры нужно передавать меньше данных. Raspberry Pi AI Camera делает эту архитектуру необычно доступной.

В официальном репозитории моделей Raspberry Pi IMX500 опубликованы пакеты YOLOv8n, YOLO11n, EfficientDet Lite0, NanoDet+ и SSD MobileNetV2 FPN Lite. В документации AI Camera описаны преобразование, упаковка и постобработка на сенсоре. Результат развёртывания — пакет RPK, а не обычный файл ONNX; основными ограничениями служат память сенсора и поддерживаемые операции. На странице продукта Raspberry Pi обещает выпуск этой камеры как минимум до января 2028 года.

Ambarella

Процессоры Ambarella CVflow широко используются в камерах, дронах и автомобильных системах компьютерного зрения. К актуальным семействам относятся CV72/CV75 для камер, CV5/CV52 для более производительных систем и автомобильные устройства CV3-AD. Названия программного стека — Cooper developer platform и процесс компиляции/выполнения CVflow.

В публичном каталоге моделей для разработчиков названы YOLOX, RTMDet, DeepLabV3+, TopFormer, OWL-ViT и мультимодальные модели. Однако подробная документация компилятора и загрузки остаются ориентированными на партнёров. Поэтому интеграцию Ambarella следует начинать с обращения к производителю или OEM-партнёру, а не с предположения, что существует публичный пакет pip.

Synaptics Astra

У Synaptics есть три значимые цели. В системах Astra SL1600/SL1680 используется набор SyNAP, который превращает исходную модель и описание YAML в пакет model.synap. В более новых устройствах SL2611/13/15/17/19 применяется платформа Torq, основанная на IREE/MLIR и создающая .vmfb. Серия SR100 — отдельное семейство MCU на Cortex-M55 и Ethos-U55 со своим SDK. Эти артефакты и API несовместимы друг с другом.

В официальном руководстве по бенчмаркингу YOLO необычно подробно описана процедура: YOLOv8 экспортируется в TFLite, в SyNAP выполняется асимметричная калибровка UINT8, затем модель компилируется для SL1680 и запускается через synap_cli и приложение детекции объектов. Руководство подтверждает YOLOv8n/v8s на SL1680 и заявляет поддержку SyNAP вплоть до YOLO11. Отдельное руководство по детекции объектов SL261x запускает YOLOv8 из Torq .vmfb. Это официальные примеры для конкретных целей, а не заявление, что все графы YOLO поддерживаются во всех трёх семействах.

MediaTek Genio

MediaTek заслуживает отдельного раздела: в актуальном IoT AI Hub теперь опубликованы матрица оборудования и ПО, пакеты моделей и таблицы бенчмарков, которых не хватало для проверки в старых обзорах рынка. В Genio 360/360P/420/520/720 используется NeuroPilot 8 с MDLA 5.3; в Genio 510/700 — NP6 с MDLA 3.0; в Genio 1200 — NP6 с MDLA 2.0. MediaTek указывает, что поколение NeuroPilot и MDLA, набор операций, компилятор и среда выполнения привязаны к версии на весь срок жизни каждой SoC.

Аналитический путь AI ориентирован на TFLite:

PyTorch model
    -> NeuroPilot Converter and representative calibration
    -> quantized .tflite
    -> version-matched ncc-tflite compiler
    -> chip-generation-specific .dla
    -> Neuron Runtime on MDLA

В новых продуктах Genio также доступны делегирование LiteRT и путь ONNX Runtime CPU/NPU в поддерживаемых ОС. Это другие режимы выполнения, не связанные с офлайн-файлом .dla. Различие явно описано в руководстве по архитектуре ПО и матрице ресурсов.

В официальной таблице аналитических моделей опубликованы бенчмарки YOLOv5s и YOLOv8s, а также руководства по преобразованию для нескольких поколений MDLA. В ней явно сказано, что готовые преобразованные артефакты YOLO не распространяются из-за ограничений AGPL-3.0. Офлайн-измерения Quant8 при 640 x 640 включают 5.35 ms и 8.04 ms соответственно на Genio 720. На странице модели YOLOv8s опубликованы входные/выходные тензоры, время для разных бэкендов и предупреждения о пользовательских операциях MediaTek. Это бенчмарки производителя, а не результаты полного процесса обработки изображения с камеры.

Ограничивающий фактор — доступ. Публичная документация Yocto подробна, но текущий комплект NP8 «всё в одном» для конвертера/компилятора и многие материалы Android отмечены как ресурсы для прямых заказчиков или NDA. Обычный аккаунт разработчика не даёт того же доступа, что аккаунт клиента MediaTek Online. Поэтому Genio технически проверена, но воспроизводимая интеграция компилятора для собственных моделей зависит от партнёрства.

Экосистемы edge AI, ориентированные на Китай

В англоязычных обзорах рынка недостаточно представлены несколько мощных и доступных платформ компьютерного зрения с невысокой стоимостью.

D-Robotics и платформы BPU на базе Horizon

D-Robotics поддерживает экосистему плат разработчика RDK с ускорителями BPU, используемыми в RDK X3, X5, Ultra и новых продуктах серии S100. В текущей ветке rdk_x5 каталога моделей RDK описаны пути для RDK X5: YOLOv5/v5u, YOLOv8/9/10/11/12/13/26, YOLOE, YOLO-World, детекция, сегментация, поза, классификация, OCR и CLIP. Для X3 используется отдельная ветка; текущие устройства серии S находятся в основной ветке rdk_s; в старом репозитории rdk_model_zoo_s лежат исторические демонстрации. Поэтому актуальный список X5 не доказывает, что все модели проверены на X3, Ultra или S100.

OpenExplorer/Algorithm Toolchain импортирует ONNX или Caffe для PTQ и поддерживает потоки QAT для PyTorch. Развёртывание зависит от платформы: в современном RDK X5 применяется .bin через hbm_runtime поверх libdnn; в актуальном основном пути rdk_s используется .hbm через одноимённый API hbm_runtime поверх libhbucp; у X3 сохраняются старая ветка и старые интерфейсы инференса. В материалах устаревшего rdk_model_zoo_s также описаны прежние пути .bin и .hbm; такие артефакты нужно связывать с соответствующей веткой и цепочкой инструментов. Неподдерживаемые операции могут выполняться на CPU. Публичные примеры полезны, но совместимость требует правильного сочетания RDK OS, прошивки платы, toolchain и бинарной модели.

AXERA

Семейства AX650/AX630/AX620 от AXERA используются в компактных AI-камерах и платах вроде линейки MaixCAM от Sipeed. Pulsar2 импортирует ONNX, проводит калибровку и анализ точности, создаёт .axmodel; затем артефакт запускается через AXEngine.

В официальных примерах AXERA есть YOLOv5/6/7/8/9/10/11/13/26, YOLOX и YOLO-World; набор задач и чипов зависит от платформы. В актуальных примерах YOLO26 для поддерживаемых целей есть детекция, поза, сегментация и OBB. В примерах преобразования Pulsar2 виден объём практической работы: точные имена тензоров, границы выходов, преобразование формата данных, архивы для калибровки и настройки целевого оборудования.

SOPHGO

TPU-MLIR от SOPHGO — привлекательный стек для независимой интеграции, поскольку сам компилятор имеет открытый исходный код. Он импортирует ONNX, PyTorch, TFLite и Caffe, преобразует и квантует графы, создаёт .bmodel для устройств BM или .cvimodel для оборудования CV18xx.

Проект TPU-MLIR поддерживает потоки FP32, BF16, FP16 и INT8 в зависимости от цели. В коллекции демонстраций SOPHON названы YOLOv3/4/5/7/8/9/10/11/12/26, YOLOX, PP-YOLOE, YOLO-World, варианты OBB/сегментации, SSD, CenterNet, RetinaFace, SAM/SAM2 и OCR. Демонстрация на BM1684X не подтверждает, что тот же артефакт работает на BM1688 или CV18xx.

Huawei Ascend

В линейку Huawei для периферийного инференса входят микросхемы Ascend 310/310P/310B в продуктах Atlas 200I и 300I. В CANN есть компилятор ATC, среда выполнения AscendCL и ядра операций для конкретных чипов; ATC преобразует ONNX и другие исходные представления в офлайн-модель .om.

В актуальной документации Atlas 200I DK A2 и примерах CANN описан путь запуска YOLOv5 .om для Ascend 310B. В более широком, старом Ascend ModelZoo есть YOLOv2/3/4/5, YOLOX, YOLOR, SSD, RetinaNet, Mask R-CNN, модели позы и сегментации, но это не значит, что каждая запись заново проверена на 310B. CANN, ядра, прошивка и SoC должны совпадать. .om для Ascend310P не является универсальным артефактом Ascend.

Cambricon

В ускорителях MLU от Cambricon используются Neuware и движок инференса MagicMind. Публичный репозиторий MagicMind Cloud закреплён на MagicMind 1.7 и матрице MLU370-X4/S4; это исторические данные о совместимости, а не подтверждение актуального SDK или MLU270. В репозитории описаны пути PyTorch, ONNX, Caffe и Paddle; поддержка фреймворка TensorFlow удалена в 1.7, хотя примеры TensorFlow остались в истории. На текущем портале разработчика серии 3 перечислены более поздние общие релизы SDK, поэтому публичные примеры и актуальный коммерческий стек нельзя представлять как одну версию.

Официальный облачный репозиторий моделей MagicMind публикует необычно прямую матрицу MLU370-X4/S4. В ней перечислены YOLOv3, Tiny-YOLOv3, YOLOv4, YOLOv5, YOLOv7, YOLOv8, PP-YOLOE, SSD, RetinaFace, RetinaNet, Mask R-CNN, DeepLab и UNet, включая наличие примеров C++ или Python. Доказательства убедительны; основная преграда — доступ к SDK и контейнеру через каналы Cambricon.

Canaan/Kendryte

Современные K230/K230D и устаревшие K210/K510 KPU от Kendryte важны для недорогих плат и интеллектуальных камер. Компилятор nncase импортирует ONNX или TFLite, использует калибровочные данные для преобразования в фиксированную точку, позволяет симулировать результат на хосте и создаёт .kmodel.

В официальном руководстве разработки K230 nncase пошагово описаны компиляция, симуляция и запуск YOLOv5s. Отдельный каталог демонстраций AI включает готовые артефакты YOLOv8n для детекции, сегментации и позы, а актуальный журнал изменений CanMV добавляет оптимизированные примеры классификации, детекции, сегментации, OBB и позы для YOLOv8/11/26. Результат YOLOv5s в спецификации — опубликованный бенчмарк; версии компилятора и бинарного плагина KPU должны соответствовать SDK платы.

Allwinner

В V853 от Allwinner сочетаются медиаблоки для камер и NPU Vivante на 1 TOPS. В официальном руководстве NPU на английском языке описаны импорт через Acuity/Pegasus, квантизация, проверка и развёртывание через viplite. В собственных страницах моделей Allwinner и руководстве YOLOv5 перечислены YOLOv2/3/4/4-tiny/5/5s, RetinaNet, MobileNet, ResNet и сети для лиц/людей.

Это реальная поддержка компьютерного зрения, но она привязана к старой цепочке Tina Linux/Vivante, а загрузки SDK требуют аккаунта. Платформа входит в обзор рынка с этой оговоркой.

Менее заметные платформы Кореи, Тайваня и Китая

Англоязычные обзоры часто перескакивают от Rockchip к NVIDIA, пропуская второй ряд реальных чипов с документацией. В некоторых из этих экосистем матрицы актуальных YOLO шире, чем у более известных западных стартапов.

Mobilint

Корейская компания Mobilint выпускает маломощный REGULUS и более производительный ARIES MLA100. SDK qb принимает модели PyTorch, TensorFlow, TFLite, ONNX и Keras, квантует их до INT8 и создаёт скомпилированный артефакт .mxq. В публичной матрице компьютерного зрения перечислены детекторы YOLOv3/v5/v7/v8/v9/v10/11/12/26 и варианты YOLO для сегментации, позы и OBB. На странице ARIES опубликованы отдельные результаты для YOLO11s и YOLO26m. Это весомое свидетельство для интеграции, хотя доступ к SDK и оборудованию остаётся коммерческим.

Sunplus

В SP7350/C3V от Sunplus используется NPU-стек на базе Vivante, но его пакет отличается от Allwinner и старой Amlogic. В открытом процессе сочетаются преобразование Acuity, Docker для NPU, среда выполнения SNNF и выходной файл .nb. В официальном руководстве по YOLOv8 показаны преобразование и развёртывание, а не просто заявлена поддержка фреймворка. Родственное IP не делает .nb переносимым на другую SoC с Vivante.

ESWIN Computing

В линейку RISC-V от ESWIN входят EIC7700/EIC7700X и двухкристальные EIC7702/EIC7702X; EIC7700 установлен в серийные платы, например Milk-V Megrez. В ENNP входят EsQuant, актуальный компилятор EsAAC, создание эталонных данных, симуляция и среда выполнения ESSDK; скомпилированный результат — .model, а в старой документации ENNP использовалось название ennc-compile. В актуальном руководстве EsAAC описан ввод ONNX, поэтому для других фреймворков понадобится экспорт или преобразование в поддерживаемое IR. Обзор ENNP и руководство YOLOv3 на сайте Milk-V подтверждают публичный путь от начала до конца, но не дают широкой актуальной матрицы моделей/точности.

Nuvoton M55M1

M55M1 от Nuvoton — конструкция класса MCU на Cortex-M55 и Ethos-U55-256, а не прикладной процессор Linux. NuEdgeWise/NuML и Arm Vela готовят квантизованные модели TFLite Micro. В публичном репозитории NuEdgeWise названы YOLOv8-nano, YOLOX-nano, YOLO Fastest v1.1, SSD-MobileNet FPNLite и несколько классификаторов. Эти примеры компактных сетей соответствуют ограничениям памяти и мощности устройства, но не подтверждают стандартные варианты YOLO с разрешением 640 пикселей.

Rebellions и FuriosaAI

В линейке ATOM от Rebellions используются SDK RBLN и скомпилированные артефакты .rbln. В официальном релизе поддержки названы YOLOv3 tiny/full/SPP, YOLOv5 от n до x, YOLOv6 от n до l, варианты YOLOv7 и YOLOv8 от n до x. В актуальной матрице поддержки карт ATOM CA02 и ATOM+ CA12 имеют статус EoL, а ATOM+ CA22 и ATOM-Max CA25 — Active. У ATOM-Lite CA21 есть страница продукта, но его нет в матрице SDK, поэтому текущий статус набора инструментов неясен. Документация открыта, но для загрузки компилятора нужны учётные данные Rebellions Portal.

FuriosaAI нужно рассматривать по поколениям. Warboy — старый ускоритель компьютерного зрения с INT8-артефактами .enf и официальным каталогом моделей, в котором есть SSD, YOLOv5M/L и YOLOv7-w6-pose. Для RNGD используется другой стек .fxb, в первую очередь рассчитанный на LLM/VLM. В актуальной дорожной карте поддержка компьютерного зрения YOLOv8m отмечена как завершённая в 2024 Q4, однако текущие публичные сведения о моделях и производительности сосредоточены на LLM/VLM и не содержат подробной матрицы точности/производительности YOLOv8m. Это свидетельство для выпущенного поколения, а не подтверждение совместимости с Warboy.

Realtek, Telechips, T-Head и SigmaStar

Эти четыре платформы реальны, но возможности для собственных моделей уже, устарели или ограничены доступом:

Интеллектуальные системы зрения HiSilicon — это не Huawei Ascend

В камерных SoC Hi3516CV610/DV500, Hi3519DV500 и Hi3403V100 от HiSilicon используется процесс ATC в .om с средами выполнения NNN/SVP-NNN. В официальном зоопарке моделей HiSpark для отдельных целей, особенно Hi3403 и Hi3591P, указаны YOLOv3/4/5/6/7/8/9/10/11, сегментация/поза YOLO11, OBB/World/сегментация YOLOv8, OCR, глубина и TinySAM. Это не подтверждает работу всех моделей на всех перечисленных SoC для компьютерного зрения. Некоторые записи относятся к планам развития; выпущенные примеры и планируемую поддержку нужно разделять. В репозитории указано, что предоставленные модели ModelZoo предназначены только для некоммерческого использования. Совпадение названий ATC/.om не доказывает совместимость артефактов или среды выполнения с линейкой Ascend на CANN.

Новые и специализированные компании-разработчики ускорителей

MemryX

Модули MX3 от MemryX используют архитектуру потоковой обработки данных и могут объединять несколько чипов. Neural Compiler принимает модели ONNX, TensorFlow Lite, Keras и TensorFlow и создаёт пакет DFP, который обрабатывает среда выполнения ускорителя. API среды выполнения поддерживают несколько моделей и потоковые пайплайны.

В документации и примерах MemryX есть оптимизированная предобработка и постобработка YOLO для детекции, сегментации и позы. В заметках к релизам SDK явно указана поддержка YOLOv10, YOLO11 и YOLO26. Публичные материалы полезны технически, хотя в них нет одной удобной таблицы моделей/точности/устройств, сравнимой с каталогом Axelera.

Kneron

Продукты KL520/KL530/KL630/KL720/KL730 от Kneron охватывают небольшие USB- и встроенные ускорители. Kneron PLUS обеспечивает среду выполнения приложения; актуальная версия Model Toolchain 0.33.1 описывает преобразование, квантизацию, оценку, симуляцию и компиляцию .nef для этих целей. KL830 упоминается в некоторых API среды выполнения PLUS, но отсутствует в текущем списке целей компилятора. Без подтверждения производителя нельзя переносить на KL830 общее заявление о компиляции .nef.

В официальном примере YOLO показан процесс на Tiny-YOLOv3; в других материалах Kneron описаны обучение и развёртывание YOLOv5. Свидетельства убедительны, но охватывают меньше моделей, чем широкие актуальные матрицы YOLO у Hailo, Axelera, Rockchip или DEEPX.

SiMa.ai

В MLSoC и серийной платформе Modalix на 50 TOPS от SiMa.ai используется программная среда Palette. ModelSDK, компилятор MLA и ModelExecutor охватывают импорт, квантизацию, компиляцию, профилирование и выполнение. В зависимости от задачи и продукта доступны потоки INT8, INT16 и BF16.

В заметках к релизам названы проверенные пайплайны YOLOv7, YOLOv8 для детекции/позы/сегментации, YOLOX и YOLOX для сегментации, DETR, Mask R-CNN и EfficientDet. Не следует скрывать одно текущее ограничение: в заметках Palette SDK 2.1 сказано, что QAT не работает из-за регрессии квантизации Python/PT2E. Обходной путь — создать ONNX с аннотациями в SDK 2.0 и скомпилировать его в 2.1. Доступ и закупка рассчитаны на корпоративных клиентов.

Граница развёртывания также документирована: процесс компиляции ModelSDK создаёт скомпилированный .tar.gz и может создать исполняемый ELF, а MPK Tool упаковывает развёртываемый .mpk. Эти выходные файлы привязаны к цели MLSoC/Modalix и релизу Palette.

EdgeCortix

SAKURA-II — заявленный ускоритель на 60 TOPS для компьютерного зрения и генеративного AI, компилируемый через программный фреймворк MERA. EdgeCortix также предоставляет технологии MERA для более нового процесса RUHMI от Renesas.

В материалах о SAKURA-II описаны оборудование и компилятор; оборудование M.2/PCIe предлагается через запрос на тестирование или заказ. Достаточно точную актуальную публичную матрицу совместимости YOLO найти не удалось. Для принятия решения о покупке это важная информация: до выбора оборудования следует запросить проверку нужной модели.

BrainChip

Akida от BrainChip — нейроморфный процессор событийной области, а не обычный NPU для плотных тензоров. В среде MetaTF используются устанавливаемые пакеты Python для создания моделей, квантизации до низкой разрядности, преобразования, симуляции и выполнения на оборудовании. Сейчас BrainChip продаёт доступный сопроцессор AKD1500 в формате M.2, а также старое оборудование AKD1000 и IP Akida 2.

В актуальной карточке модели Akida 2 названы детектор AkidaNet0.5 YOLOv2, CenterNet, AkidaUNet и сети распознавания лиц. В других материалах о поддержке упоминаются FOMO и задачи на событиях. В Akida поддерживаются очень низкие разрядности весов и активаций, но для развёртывания может потребоваться преобразование с учётом архитектуры — считать его обычной целью INT8 ONNX нельзя. Результат для AKD1000 или Akida 2 из каталога нельзя приписывать AKD1500, пока явный отчёт map/fit не подтвердит соответствие.

Blaize

Blaize продаёт продукты Pathfinder и Xplorer на базе P1600; программный путь обеспечивают Picasso SDK, NetDeploy и AI Studio. На страницах продуктов ясно указаны компьютерное зрение и периферийный AI, но актуальной публичной матрицы совместимости по отдельным моделям нет.

Поэтому здесь Blaize отнесена к коммерческим решениям с закрытым доступом, а пробел не заполняется заявлениями сообщества. Перед покупкой следует потребовать от производителя отчёт компиляции и точности для целевой модели.

TinyML и зрение на конечных устройствах

Arm Ethos-U и Alif

Arm лицензирует производителям чипов IP NPU Ethos-U55, U65 и U85. Компилятор Vela принимает квантизованные графы LiteRT/TFLite и переписывает поддерживаемые подграфы в пользовательские операции Ethos-U. Неподдерживаемые операции могут остаться на CPU, поэтому «приложение запускается» и «вся сеть работает на NPU» — разные утверждения.

Среди реальных устройств — Ethos-U55 в Alif Ensemble E7, Ethos-U65 в NXP i.MX 93 и Ethos-U85 в более новых системах. В E7 AI/ML AppKit от Alif документированы два ML-ускорителя и показан путь TFLite-to-Vela для E7; в Ensemble E8 сочетаются один Ethos-U85 и два NPU Ethos-U55. Alif также публикует семейный бенчмарк детектора лиц YOLO-Fastest INT8 при разрешении 192 на 192 на Cortex-M55 с Ethos-U55, но не широкую матрицу современных YOLO для отдельных целей. Эти системы с ограниченной памятью подходят для небольших сетей классификации и детекции; не следует считать, что в них поместится любой детектор YOLO на 640 пикселей только потому, что он представлен в TFLite.

Infineon PSOC Edge, Himax WiseEye2 и Analog Devices MAX7800x

В семействах PSOC Edge E83 и E84 от Infineon Cortex-M55 сочетается с Ethos-U55; на стороне M33 добавлен отдельный блок NNLite. В руководстве по архитектуре E84 описаны веса на 8 бит, активации на 8 или 16 бит и процесс Vela, при котором поддерживаемые операции превращаются в поток команд NPU, а неподдерживаемая работа остаётся на CPU. DEEPCRAFT Model Converter принимает входы TFLite, Keras и PyTorch; в материалах об архитектуре MobileNetV1/V2 указаны как типовые ядра, а не бенчмарки цели. В AI Kit E84 есть камера, набор инструментов — ModusToolbox, но публичные материалы пока не содержат матрицу совместимости конкретных моделей YOLO. Это реальная программируемая платформа зрения с развивающимися свидетельствами по отдельным моделям, но не проверенная универсальная цель для детекторов.

В HX6538 WiseEye2 от Himax также сочетаются Cortex-M55 и Ethos-U55 для постоянно активного зрения. Публичное описание ПО необычно подробно для такого класса энергопотребления: в официальных примерах Grove Vision AI Module V2 есть детекция объектов, поза и классификация пола на YOLOv8n, детекция на YOLO11n, face mesh и PeopleNet. Единый процесс использует TFLite Micro и Vela, а затем при необходимости — CMSIS-NN и эталонные ядра. Это намеренно компактные модели с небольшими разрешениями, а не доказательство того, что поместится обычный большой граф YOLO.

Analog Devices использует другой подход с CNN-ускорителями MAX78000/MAX78002. Публичный инструмент ai8x-synthesis квантует обученную сеть и создаёт C-код для конкретной цели, веса и конфигурацию ускорителя, а не переносимый пакет среды выполнения ONNX. К свидетельствам производителя относятся идентификация лиц, детекция QR на TinierSSD в зоопарке моделей ADI и классификаторы изображений. Устройства подходят для периферийного зрения, но актуальную официальную матрицу современных YOLO найти не удалось.

GreenWaves GAP9

В GAP9 сочетаются вычисления RISC-V и нейронный движок NE16. NNTool импортирует и квантует сети, AutoTiler и GAP SDK генерируют код для развёртывания. В открытом меню нейросетей GAP9 есть MobileNet, EfficientNet, ResNet, MobileNet SSD, детекция лиц и приложения распознавания. GreenWaves также публикует проект детекции людей YOLOX с результатами точности и симуляции.

Это необычно прозрачные свидетельства для TinyML, но полный SDK доступен только квалифицированным заказчикам, а модели существенно меньше распространённых вариантов YOLO 640 на 640.

Lattice sensAI

Lattice sensAI — основанная на FPGA альтернатива фиксированному NPU. sensAI Studio и Neural Network Compiler размещают поддерживаемый граф на настраиваемом IP ускорителя для устройств ECP5, iCE40 UltraPlus, CrossLink-NX, CertusPro-NX, Avant-E и Avant-X. Результат привязан к выбранной FPGA, режиму ускорителя, раскладке памяти и битстриму, а не является переносимой моделью среды выполнения.

В актуальном руководстве Neural Network Compiler есть необычно прямая таблица архитектур. В ней YOLOv1 указан для ECP5, YOLOv5 и YOLOv8 — для оптимизированных/расширенных режимов CrossLink-NX и CertusPro-NX, а YOLO11 — только для Advanced mode IP. Также перечислены SSD, MobileNetV2-SSD, ResNet, ENet, SqueezeDet и другие сети компьютерного зрения; неподдерживаемые сочетания показаны отдельно для семейств FPGA. Advanced CNN Accelerator предназначен для Avant-E/Avant-X/CertusPro-NX и является коммерческим IP. Это свидетельства из таблицы компилятора, а не обещание, что один битстрим одновременно поддерживает все перечисленные архитектуры.

Microchip VectorBlox

Публичный VectorBlox SDK 3.1 от Microchip выполняет предобработку и компиляцию полностью квантизованных сетей TFLite INT8 для настраиваемого IP CoreVectorBlox в FPGA PolarFire SoC. tflite_preprocess и vnnx_compile создают файлы для развёртывания .vnnx, .hex и .ucomp; в репозитории также есть симулятор и целевой драйвер C. Графы TensorFlow, ONNX и OpenVINO сначала должны пройти документированный путь подготовки TFLite/INT8.

В актуальной матрице руководств указаны YOLOv5n, YOLOv8n для детекции, классификации, OBB, позы и сегментации, YOLOv9t, разреженные/сжатые варианты YOLO, MobileNet, EfficientNet-Lite0, ResNet18, MiDaS, FFNet и QuickSRNet. В руководстве по постобработке на C отдельно названы декодеры детекции, позы и OBB для YOLOv2/3/4/5 и Ultralytics. Сейчас SDK 3.1 поддерживает PolarFire SoC Video Kit и явно не поддерживает PolarFire Video Kit без SoC, поэтому старые демонстрации плат нельзя выдавать за актуальный контракт целей.

SDK можно публично загрузить по лицензии Microchip, которая ограничивает использование ПО и производных продуктовами Microchip. Microchip предлагает бесплатные лицензии Libero Silver и CoreVectorBlox по запросу. Для развёртывания всё равно нужен системный контракт FPGA: конфигурация ускорителя, битстрим, прошивка, данные сети, созданные SDK, и раскладка памяти должны совпадать. Успешная компиляция VectorBlox не превращает модель в бинарный файл, переносимый на любую конструкцию PolarFire.

Syntiant

NDP200 от Syntiant предназначен для постоянно активного инференса зрения, звука и сенсорных данных с энергопотреблением ниже обычных SoC под Linux. В актуальной таблице оборудования NDP200 имеет статус серийного производства, NDP250 — проходит выборку. В описании NDP200 указана поддержка CNN, RNN и полносвязных сетей при мощности менее 1 mW; в анонсе NDP250 говорится о постоянно активном распознавании изображений при мощности менее 30 mW. Значение «менее милливатта» нельзя обобщать на оба чипа.

Публичные материалы не подтверждают широкую совместимость с YOLO, поэтому продукт следует оценивать для небольших постоянно активных классификаторов и детекторов через поддерживаемую производителем оценку модели, а не полагаться на общий экспорт ONNX.

Google Coral: два не связанных друг с другом поколения

В прежних продуктах Edge TPU используются Edge TPU Compiler, libedgetpu и PyCoral с полностью квантизованными моделями TFLite INT8. Основные репозитории Edge TPU и PyCoral архивированы. Это реальный риск для сопровождения, но не официальное уведомление о снятии оборудования с производства.

Google также поддерживает отдельный активный проект с открытым исходным кодом Coral NPU: IP ускорителя RISC-V для интеграции в маломощные SoC. В публичном проекте доступны RTL, симуляция оборудования, набор инструментов и примеры ELF. Это не прямая замена Edge TPU USB/M.2; актуальная матрица развёртывания YOLO не опубликована.

Особенности смежных GPU, клиентских NPU и адаптивных вычислений

NVIDIA, AMD, Intel и Apple часто встречаются в поиске NPU, но они не предлагают один взаимозаменяемый тип ускорителя.

NVIDIA Jetson: Jetson Orin объединяет GPU CUDA с отдельными ядрами DLA. TensorRT может создать сериализованный движок для DLA, однако неподдерживаемые слои выполняются на GPU только при явном включении GPU fallback. Актуальная таблица DeepStream для YOLO охватывает YOLOv4/v7/v8/v9/11, но большинство записей рассчитаны на GPU; явная конфигурация ONNX DLA — YOLOv8s INT8. В ограничениях DLA от NVIDIA объясняются ограничения операций. Thor тоже отличается: в руководстве по миграции DriveOS сказано, что в Thor ядра DLA удалены ради гибкого распределения работы между GPU. Формулировка «работает на Jetson» не указывает, какой ускоритель выполняет модель.

AMD Vitis AI: В старшем поколении Kria/DPU скомпилированные графы .xmodel выполнялись через VART. Текущая версия Vitis AI 6.2 имеет статус GA для двух отдельных путей Versal AI Edge: Gen1 на VEK280/VE2802 использует ONNX, AMD Quark и привязанный к цели процесс снимков/подграфов; у Gen2 на VEK385 свой контракт компиляции и среды выполнения. Для Gen1 опубликованы примеры YOLOv5, YOLOv7, YOLOv8 и YOLOX. Ryzen AI — четвёртый, отдельный клиентский стек NPU. Не переносите артефакты и результаты проверок между устаревшим DPU, Versal Gen1, Versal Gen2 и Ryzen AI только из-за общего названия Vitis или AMD.

Intel OpenVINO: OpenVINO может работать с CPU, GPU и NPU Core Ultra через один API. В документации плагина Intel NPU указаны поддерживаемые поколения NPU, а в матрице проверенных моделей есть отдельные столбцы устройств. Ноутбук с YOLO показывает рецепт приложения, а не проверку на NPU, если это не указано в матрице. Полноту выполнения графа определяют поддерживаемые операции, формы, точность и установленный драйвер NPU. IR OpenVINO (.xml и .bin) — повторно используемое IR исходного уровня; кэш скомпилированной модели зависит от устройства и ПО.

Apple Core ML: coremltools преобразует модели в .mlpackage, который Xcode компилирует в .mlmodelc. Core ML может распределять работу между CPU, GPU и Apple Neural Engine, но специально скрывает точное разбиение. Это делает Apple отличной платформой развёртывания, но заявлять, что «весь граф YOLO выполнен на NPU», нельзя без подтверждения профилированием.

Компании — поставщики NPU IP для производителей чипов

Некоторые компании вообще не выпускают платы или готовые ускорители. Они лицензируют конструкции NPU поставщикам SoC. Это важно, поскольку одна базовая архитектура может встречаться под разными марками чипов, но итоговые SDK и артефакты всё равно могут быть изменены лицензиатом.

Imagination показывает, почему рядом с названием архитектуры следует указывать доступ и жизненный цикл. Её программа Open Access предлагает три проверенные на кремнии конфигурации Series3NX без первоначальной платы за лицензию IP, но после оценки компании, с платной поддержкой/обслуживанием и роялти за серийный выпуск. Neural Compute SDK предоставляет инструменты компиляции, оптимизации, квантизации и среды выполнения; в официальном сотрудничестве с Baidu PaddlePaddle названы детекция PP-YOLOE, классификация EfficientNet и сегментация HRNet. Эти примеры не подтверждают каждую конфигурацию Series3NX или Series4; текущие страницы отдельных продуктов Series4 помечают их как недоступные, поэтому Series4 следует считать историческим решением, пока продажи не подтвердят обратное.

Этот уровень объясняет внешнее сходство семейств, но не делает артефакты переносимыми. У двух SoC с родственными IP Vivante или Ethos могут отличаться память, драйверы, версии компилятора, наборы операций и среды выполнения производителя.

Что развёртывается: таблица привязки к артефактам

Последний файл в цепочке компилятора — место, где видимость переносимости ONNX заканчивается. Названия и расширения со временем меняются, но практическое правило остаётся: сохраняйте исходную модель и данные калибровки, поскольку нативный артефакт обычно нельзя перенести на другое поколение NPU или надёжно пересобрать в другой версии SDK.

Эта таблица — не просто перечень расширений. Версии компилятора, идентификатор цели, драйвер, прошивка и BSP входят в воспроизводимую идентичность модели. В будущих экспортёрах LibreYOLO нужно записывать их в машиночитаемый манифест рядом с каждым артефактом.

Доступ к инструментам и сигналы жизненного цикла

Доступность оборудования и доступ к компилятору — разные вещи. Плату может быть легко купить, хотя для текущего компилятора нужно соглашение с заказчиком; открытый SDK может предназначаться для кремния, который трудно достать. Далее приведены конкретные сигналы производителей, а не универсальный рейтинг срока службы.

Почему TOPS — не руководство к покупке

Пиковые TOPS полезно сравнивать в рамках одного производителя и одной архитектуры, но сравнения между компаниями обычно некорректны, если не совпадает всё перечисленное:

• Числовая точность, включая INT8, INT4, FP16 или смешанный режим
• Считается ли одна операция умножения с накоплением как одна или две операции
• Плотная или структурно-разреженная арифметика
• Разрешение входа, размер батча и граф модели
• Точность после квантизации
• Задержка только NPU или всего пайплайна приложения
• Перемещения данных и откат на хост
• Тепловое состояние и длительная, а не кратковременная работа

Детектор — это пайплайн: получение изображения, изменение размера/letterbox, нормализация, передача на устройство, нейронный инференс, декодирование, NMS, масштабирование координат и логика приложения. Производители часто публикуют показатели только для середины процесса — инференса нейросети. MLPerf Inference Edge полезен тем, что задаёт сценарии, целевые показатели качества и правила измерения системы вместо сравнения маркетинговой арифметики.

Для развёртываний YOLO минимальная запись о заслуживающем доверия бенчмарке выглядит так:

exact checkpoint + checksum
source and compiled model format
compiler, runtime, driver and firmware versions
target board and clock/power mode
input resolution and batch
precision and calibration dataset
accuracy before and after compilation
warmup and sample count
preprocess, inference and postprocess latency
power measurement boundary

Без этих данных два показателя FPS обычно относятся к разным условиям.

Как выбрать NPU для компьютерного зрения

Выбирайте в следующем порядке, а не по самому большому числу на странице продукта.

1. Проверьте совместимость графа. Скомпилируйте точную экспортированную модель, а не похожий чекпойнт из каталога.
2. Измерьте точность. После калибровки и квантизации проверьте скомпилированный артефакт на реальном датасете задачи.
3. Измерьте полный процесс. Учтите преобразование входа, передачи данных, декодирование и NMS.
4. Проверьте доступ к ПО. Выясните, открыт ли компилятор, требует ли регистраций или доступен только по коммерческому соглашению.
5. Зафиксируйте матрицу версий. Запишите компилятор, среду выполнения, драйвер, прошивку и идентификаторы цели.
6. Проверьте поддержку ОС на практике. Android, Debian, Yocto, Buildroot, RTOS и Windows не взаимозаменяемы.
7. Уточните поставки и жизненный цикл. Технически отличный чип не подойдёт для производства, если неясны наличие модулей, драйверов или долгосрочной поддержки.
8. Затем сравнивайте цену, мощность и производительность. Эти измерения имеют смысл, только если одна и та же модель корректно работает на обеих целях.

С чего начать в зависимости от задачи

Это исследовательский список для оценки, а не рейтинг производительности. Закупки, доступность в регионе и конкретная модель могут изменить порядок.

Что это значит для LibreYOLO

Масштабируемая архитектура — не десятки несвязанных экспортёров, а один строгий контракт обмена и небольшие адаптеры компилятора и среды выполнения для производителей:

LibreYOLO model
    -> deterministic static ONNX
    -> VendorCompiler.compile(model, target, calibration, precision)
    -> native artifact + manifest
    -> VendorRuntime.load() / infer()
    -> shared task-specific decode and Results objects

К каждому нативному артефакту нужен сопроводительный манифест с такими полями:

• Производитель, цель-чип и целевая плата
• Версии компилятора, среды выполнения, драйвера и прошивки
• Контрольные суммы исходного чекпойнта и ONNX
• Имена входов, формы, раскладка, цветовое пространство, нормализация и тип данных
• Точность квантизации, масштабы, если доступны, и хеш калибровочных данных
• Имена выходных тензоров, формы и семантическое значение
• Задача детекции, названия классов, обработка decode/NMS на чипе или хосте
• Зафиксированные результаты численного соответствия и точности на задаче

В LibreYOLO уже доступны переносимый экспорт ONNX, инструменты квантизации, прямой, но намеренно ограниченный экспорт RKNN и честный процесс работы с внешним компилятором Hailo. По критериям этой статьи следующим сильным кандидатом на интеграцию будет Amlogic ADLA: набор инструментов открыт, поддержка моделей во многом совпадает с LibreYOLO, а старый путь A311D можно оставить явно отдельным.

Следующий приоритет после Amlogic следует определять по оборудованию пользователей и возможности проверить точность, а не только по доступности компилятора. DEEPX, Sony IMX500, D-Robotics, AXERA, SOPHGO и Qualcomm технически привлекательны; TI, NXP, ST и Renesas особенно ценны при наличии у промышленных партнёров плат и долгосрочного доступа к CI.

Список наблюдения: реальный кремний без открытого контракта интеграции

Полное исключение компании может исказить обзор рынка. Но назвать её «поддерживаемой» ещё хуже. Эти производители продают, поставляют на тестирование или анонсировали подходящее оборудование, однако открытых данных пока недостаточно, чтобы подтвердить воспроизводимую текущую цепочку компилятора, артефакта и именованной модели для бэкенда LibreYOLO.

Этот список наблюдения опирается на доступные свидетельства. Компания может перейти в таблицы развёртываемых решений, если опубликует актуальный toolchain или способ оценки, контракт артефакта для конкретной цели и хотя бы одну именованную модель со сквозным рецептом.

Чего эта статья намеренно не утверждает

Статья не заявляет, что каждая указанная модель запускается из любого исходного репозитория. Модели в каталогах производителя часто изменены, разделены на других выходных узлах или связаны с пользовательской постобработкой.

Также здесь не выдаются за подтверждение поддержки следующие сведения:

• Компилятор импортирует ONNX.
• Для чипа заявлен Android-драйвер NNAPI.
• Дистрибьютор говорит, что плата «совместима с YOLO».
• Репозиторий сообщества запускает один форк одной модели.
• Модель компилируется без ошибки.
• Производитель сообщил FPS только для NPU и не указал точность.

Ускорители Google Tensor в телефонах и множество заказных ASIC только для OEM тоже существуют, но Google не предлагает Tensor как общедоступную для самостоятельной работы цель компиляции, сопоставимую с платформами выше. Наличие компании, блок-схемы NPU или ускорения Android недостаточно, чтобы заявлять об интеграции LibreYOLO.

Облачные ускорители Google TPU, AWS Inferentia/Trainium, Microsoft Maia и AI-карты только для центров обработки данных также не входят в сферу этой статьи. Речь идёт об оборудовании, которое разработчик компьютерного зрения может реалистично развернуть на периферии.

Лицензирование модели — отдельный уровень. Публикация рецепта преобразования YOLO производителем чипа не даёт прав использовать или распространять исходные веса, код обучения или производную скомпилированную модель. Для целевого продукта нужно отдельно проверить поддержку оборудования, лицензии SDK и лицензии моделей.

Методология исследования и исправления

Для каждой компании проверялись четыре вида первичных источников:

1. Актуальная страница продукта или спецификация с описанием кремния.
2. Документация компилятора и среды выполнения с реальным путём развёртывания.
3. Каталог моделей, таблица совместимости или сквозное руководство с названиями моделей зрения.
4. Сведения о жизненном цикле и доступе, показывающие, может ли разработчик получить инструменты.

Официальные организации GitHub считались источниками производителя. Материалы производителя платы помечены как свидетельства экосистемы, если сам производитель чипа не публикует те же сведения. Заявления третьих сторон о производительности исключены из сравнительных таблиц.

После подготовки черновик отдельно проверили по группам поставщиков и по пересекающимся таблицам. Проверки повторно сверили охват целей, имена артефактов, точность, свидетельства о модели и постпроцессоре, статусы анонсированных и выпускаемых продуктов, жизненный цикл, знаменатели бенчмарков и количество каждой сущности. Если первичные страницы расходятся, статья показывает это расхождение, а не выбирает удобное значение без объяснения.

Этот рынок быстро меняется. Если вы работаете в одной из компаний и в статье неверно указаны чип, SDK, список моделей или статус доступа, отправьте LibreYOLO точную ссылку на публичную документацию и её версию. Исправления, подкреплённые первичными свидетельствами, должны заменить этот текст; неподтверждённые маркетинговые заявления — нет.

FAQ

Сколько компаний выпускают edge AI NPU?

Универсального числа нет: пересекаются производители продуктов, лицензиары IP, интеллектуальные сенсоры, GPU и закрытые автомобильные ASIC. В этом неисчерпывающем обзоре отслеживаются 69 компаний и экосистем платформ, связанных с edge AI: чипы, платформы ускорителей, лицензируемый NPU IP или заслуживающий внимания кремний по состоянию на август 2026 года.

Что такое NPU?

Neural Processing Unit — специализированное аппаратное устройство для операций нейронных сетей, например свёрток и умножения матриц. Производители используют термины NPU, AIPU, BPU, KPU, DLA, HTP, TPU и MLA. Скомпилированные модели обычно нельзя переносить между компаниями.

Какие компании с NPU официально поддерживают модели YOLO?

У Amlogic, Hailo, Axelera AI, Rockchip, Qualcomm, MediaTek, DEEPX, D-Robotics, AXERA, SOPHGO, Huawei, Cambricon, Sony IMX500 через официальный репозиторий Raspberry Pi AI Camera, STMicroelectronics, Renesas, Lattice, Himax, Microchip и ряда других компаний есть собственные записи в каталогах моделей, руководства или проверенные результаты как минимум для одного поколения YOLO. Важно учитывать конкретное поколение, задачу, целевой чип и версию SDK.

Можно ли запустить любую модель ONNX на любом NPU?

Нет. ONNX — формат обмена, а не гарантия совместимости с оборудованием. Компилятор NPU должен поддерживать все операции, формы тензоров и типы данных графа. Часто встречаются статические формы, разбиение графа, пользовательские операции и откат на CPU.

Какой NPU лучше всего подходит для YOLO?

Универсального лидера нет. У Hailo, Rockchip, Axelera AI, DEEPX и Amlogic хорошо документирована поддержка YOLO, а устройства Qualcomm отличаются очень широким распространением. Выбирайте по точности после квантизации, задержке всего пайплайна, длительной мощности, цене, доступности, доступу к SDK и поддержке ОС.

Почему показатели NPU в TOPS нельзя напрямую сравнивать?

Производители могут учитывать разные точности, разреженные операции, операции умножения с накоплением и допущения о пиковой загрузке. TOPS не учитывает трафик памяти, неподдерживаемые операции, предобработку, постобработку и накладные расходы хоста. Сравнивайте одинаковые модель, точность, разрешение, качество и полный пайплайн.

Что такое калибровка NPU?

При калибровке через модель пропускают репрезентативные, обычно неразмеченные изображения для развёртывания, чтобы компилятор оценил диапазоны активаций для INT8 или другого формата с низкой точностью. Даже случайные или нерепрезентативные изображения могут дать скомпилированный артефакт, но ухудшить точность на задаче.

Поддерживает ли LibreYOLO периферийные NPU?

LibreYOLO экспортирует ONNX и несколько форматов среды выполнения, напрямую компилирует выбранные модели Rockchip через RKNN и описывает внешнюю процедуру компиляции для Hailo. Для всех остальных артефактов производителя требуется его SDK; до компиляции, проверки и запуска на оборудовании их следует считать кандидатами на интеграцию.