2026년 Edge AI NPU 기업 69곳: 칩, SDK, YOLO 지원 현황

단일한 NPU 시장은 없습니다. 이 비망라형 가이드는 배포 가능한 칩 또는 플랫폼을 보유한 업체 51곳, NPU IP 공급업체 9곳, 명확히 주시 대상으로 표시한 기업 9곳 등 기업과 플랫폼 생태계 69곳을 추적합니다. 이들은 서로 호환되지 않는 여러 가속기 유형과 거의 그만큼 다양한 컴파일러 스택에 걸쳐 있습니다. 대부분 비슷한 절차를 약속합니다. 모델을 내보내고, 양자화하고, 컴파일한 뒤, 독점 산출물을 보드에 복사해 벤더 런타임을 호출합니다. 이 절차가 오후 만에 끝날지 엔지니어링 분기 하나가 걸릴지는 세부 사항에 달려 있습니다.

이 가이드는 2026년에 신뢰할 만한 컴퓨터 비전 하드웨어를 제공하는 기업을 정리합니다. 관련 칩, SDK와 컴파일러 이름, 배포 산출물, 공개 접근 수준, 벤더가 실제로 문서화한 모델을 기록합니다. 특히 Amlogic의 최신 ADLA 스택은 구형 A311D NPU 생태계와 실질적으로 다르므로 별도로 살펴봅니다.

조사 범위: 출처는 2026년 8월 15일에 확인했습니다. 특정 모델에 관한 주장은 별도 표시가 없는 한 자사 제품 페이지, 문서, 모델 동물원, 저장소 또는 벤더 튜토리얼을 근거로 합니다. 광고된 TOPS는 벤더 수치이며 서로 직접 비교할 수 있는 독립 벤치마크 결과가 아닙니다. 이 글은 개발자 가이드이며 투자 조언이나 유료 순위가 아닙니다.

빠른 탐색: 기업 표 | Amlogic 심층 분석 | 벤더 프로필 | 컴파일 산출물 표 | 도구 접근성과 제품 수명 주기 | LibreYOLO 로드맵

가장 중요한 발견

하드웨어는 파편화되어 있지만 배포 패턴은 놀라울 정도로 일관됩니다.

PyTorch checkpoint
    -> ONNX or TFLite interchange graph
    -> representative calibration data
    -> vendor quantizer and graph compiler
    -> chip-specific binary or model package
    -> vendor runtime on the target
    -> application preprocessing, decode, NMS and rendering

ONNX는 런타임, 코드 생성기, 하드웨어 구현을 명시적으로 허용하지만 ONNX 파일은 전달 지점일 뿐입니다. 모든 ONNX 연산자가 모든 가속기에 매핑된다는 뜻은 아닙니다. 정적 입력 모양, 지원 연산자 제약, 양자화 규칙, 호스트 폴백에 따라 실제 NPU 실행 범위가 결정됩니다.

따라서 소프트웨어 스택도 칩의 일부입니다. 명목상 빠른 NPU라도 컴파일러가 제한적이거나 불안정하면 공개 툴체인, 모델 동물원, 시뮬레이터, 안정적인 런타임을 갖춘 더 작은 장치보다 배포 대상으로 불리할 수 있습니다.

이 가이드에서 "지원"의 의미

벤더 자료는 지원이라는 말을 매우 느슨하게 사용합니다. 이 글은 근거를 네 단계로 구분합니다.

이 구분은 중요합니다. "ONNX를 가져옵니다"는 "YOLO11 분할을 지원합니다"와 같지 않습니다. 모델을 분석하더라도 CPU로 폴백하거나, 출력 수치가 잘못된 채 컴파일되거나, 가속기 메모리를 초과하거나, 양자화 과정에서 정확도가 낮아질 수 있습니다.

한눈에 보는 NPU 기업 및 플랫폼

표에는 SoC, 개별 가속기, 스마트 센서, 인접한 GPU/FPGA 대상을 함께 포함했습니다. NPU, AIPU, BPU, KPU, DLA, HTP, TPU, MLA 등 업체별 명칭이 달라도 같은 배포 결정을 두고 경쟁하기 때문입니다.

임베디드 SoC, 스마트 센서, 산업용 프로세서

전용 엣지 가속기 및 모듈

개발자가 NPU와 함께 비교하는 인접 플랫폼

Amlogic: 하나가 아닌 두 NPU 세대

웹 자료가 서로 호환되지 않는 제품을 한데 묶는 경우가 많으므로 Amlogic은 자세히 설명할 필요가 있습니다. 이 회사에는 구형 VeriSilicon 경로와 새로운 독자 ADLA 경로가 있습니다. 두 경로는 컴파일러, 산출물, 런타임이 다릅니다.

A311D 데이터시트는 기존 5-TOPS INT8 NPU를 명시합니다. 구형 Khadas VIM3 애플리케이션 페이지와 NPU 개요는 DenseNet CTC, MTCNN, RetinaFace, YOLOFace, YOLOv2, YOLOv3, YOLOv3-tiny, YOLOv4, YOLOv7-tiny, YOLOv8n을 문서화합니다. 개요에는 YOLOv8n-pose도 있고 FaceNet은 지원 중단으로 표시됩니다. 이들은 실제 예제지만 현재 ADLA 칩이 아닌 이전 Acuity .nb 생태계의 근거입니다. A311D와 A311D2는 같지 않으며 C305X와 C305X2도 다릅니다.

두 번째 하드웨어 주의점도 있습니다. Khadas VIM4 개정판 안내에 따르면 최초 V12/A311D2 revision-B 보드에는 NPU가 없습니다. 광고된 3.2-TOPS NPU는 A311D2-N0D revision-C 부품을 사용하는 V13A 이후 보드에 포함됩니다. 테스트 장치를 고를 때 제품 이름만으로 판단할 수 없습니다.

현재 AMLNN 및 ADLA 스택

최신 AMLNN Toolkit은 모델 변환, 양자화, 컴파일, 추론, 프로파일링을 지원합니다. 고정된 2026년 5월 사용자 가이드는 ONNX, 부동 소수점 또는 양자화 TFLite, TorchScript .pt, PyTorch 2 ExportedProgram/PT2 가져오기를 문서화합니다. 저장소 개요는 더 포괄적으로 표현하지만 상세 가이드에서 TensorFlow, Paddle, Keras 경로는 계획 중으로 표시됩니다. 컴파일러는 .adla를 출력합니다. Python 배포에는 AMLNN 또는 amlnn_edge_toolkit_lite를 사용하고, 네이티브 C/C++는 nnsdk2.h를 통해 libnnsdk.so를 링크합니다. 호스트 개발에서는 ADB와 nnserver를 사용할 수 있습니다. 런타임 대상은 Android, Buildroot, Yocto, 일부 Debian/Armbian 환경입니다.

현재 툴킷에 게시된 플랫폼 식별자는 다음과 같습니다.

대상 필드는 장식이 아닙니다. Amlogic에서는 .adla, nnsdk2.h, libnnsdk.so, BSP, 컴파일러/런타임 세대가 서로 맞아야 합니다. 고정 빠른 시작은 ADLA 드라이버 2.0.2 이상, NNSDK 3.0.0 이상, NNSDK2 1.0.0 이상을 요구합니다. Android 배포 가이드는 라이브러리, 헤더, 드라이버, BSP의 관계를 구체적으로 설명합니다. .adla는 이식 가능한 모델이 아니라 ABI에 종속된 빌드 산출물로 취급해야 합니다.

양자화도 NPU 세대에 따라 달라집니다. ADLA2 대상 001006은 W8A8, W8A16 컴파일을 문서화합니다. ADLA3 대상 007, 008은 연산자 가이드에 기본 INT4, FP16, BF16과 함께 W4A8, W4A16, W8A8, W8A16, W16A16 조합을 추가합니다. Amlogic은 대표 보정 샘플 200500개를 권장합니다. 무작위 데이터 옵션은 정확도를 보존하는 양자화가 아니라 성능 테스트용이라고 명시합니다.

Amlogic의 문서화된 모델 범위

고정 Amlogic 모델 플레이그라운드는 일반적인 ONNX 지원 주장보다 강한 근거입니다. 공개 지원/예제 표에는 A311D2, S905X5, A311Y3, C305X2, A123X가 명시되어 있습니다. 다른 대상 ID의 컴파일 허용 여부만으로 아래 전체 모델 목록이 그 칩에서 검증되었다고 볼 수는 없습니다.

같은 저장소는 아래 W8A8 모델 런타임 수치를 공개합니다. 이는 NPU에서 신경망만 실행한 벤더 측정값이지 전체 카메라 파이프라인 결과는 아닙니다.

여기에는 특히 중요한 주의점이 있습니다. Amlogic 연산자 가이드에서 NMS는 ADLA2와 ADLA3 모두 소프트웨어에서 처리합니다. README는 전처리와 후처리를 제외한 NPU 모델 런타임 결과로 정의하지만 모든 메모리 전송이 포함되는지는 밝히지 않습니다. YOLO 정확도 행은 전체 검증 세트가 아니라 COCO 이미지 300장 부분집합을 사용하고, 분류 행은 ImageNet val1000을 사용합니다. 표에는 조건을 저장소가 설명하지 않은 A311Y3 YOLOv8n 지연 시간과 FPS 수치도 함께 제시됩니다. 클록, 전력 모드, 냉각, 정확한 SDK/BSP 버전, 테스트 시간은 공개되지 않았습니다. 이 수치는 한 벤더 스택을 이해하는 데 활용하고 다른 벤더와 순위를 매기는 데 사용하지 마십시오.

Amlogic이 전략적으로 흥미로운 이유

Amlogic은 네 가지 이례적인 조건을 갖춥니다. 대규모 임베디드 SoC 보급 기반, 새롭게 공개된 컴파일러 스택, LibreYOLO 작업 영역과 상당 부분 겹치는 최신 모델 표, 주요 학습 라이브러리의 제한적인 일급 통합입니다. 최신 저장소도 2025년 말과 2026년 초에 공개되어 역사가 짧고, 실질적인 매뉴얼은 2026년 5~7월에 작성되었습니다. 따라서 선점 기회와 API 안정성 위험이 모두 실제로 존재합니다.

깔끔한 통합은 LibreYOLO의 결정적 ONNX 내보내기를 컴파일러 입력으로 사용하고, 저정밀도 빌드에 대표 보정 이미지를 요구하며, 메타데이터 매니페스트와 .adla를 생성한 뒤 NNSDK2 어댑터로 불러와야 합니다. 레거시 A311D에는 별도의 .nb 대상을 명확히 표시해야 합니다. .nb와 .adla를 하나의 백엔드로 제시하면 호환성 문제가 조용히 발생할 수 있습니다. Amlogic 저장소의 최상위 라이선스는 Apache-2.0이지만, 번들 휠, 공유 라이브러리, nnserver, Android AAR 바이너리의 재배포 권한은 LibreYOLO에서 미러링하기 전에 직접 확인해야 합니다.

공개 배포 생태계가 가장 강한 업체

다음 기업은 현재 구할 수 있는 하드웨어, 공개 기술 자료, 모델 이름이 명시된 근거를 가장 명확하게 조합해 제공합니다. 그렇다고 모두에게 더 빠른 것은 아닙니다. 하드웨어 구매 전에 호환성 주장을 평가하기 쉽다는 뜻입니다.

Hailo

Hailo는 전용 비전 가속기 생태계의 대표 사례입니다. 모델은 Hailo Archive로 분석하고 대표 이미지를 사용해 최적화 및 양자화한 뒤 Hailo Executable Format(.hef) 파일로 컴파일합니다. 애플리케이션은 HailoRT로 HEF를 불러옵니다.

Hailo Model Zoo에는 탐지, 분할, 분류, 자세 추정 등의 레시피, 사전 학습 모델, 후처리 구성, 성능 자료가 있습니다. YOLO 범위는 YOLOv3/v4/v5/v6/v7/v8/v9/v10/11/12 및 YOLO26과 YOLOX, DAMO-YOLO, SSD, EfficientDet을 포함합니다. 버전이 고정된 Hailo-8 객체 탐지 표는 일반 제품 페이지보다 좋은 호환성 자료입니다. 독립 애플리케이션에서 배포 가능한 YOLO 파이프라인도 설명합니다.

중요한 버전 경계가 있습니다. Hailo-8 및 Hailo-8L은 구형 Model Zoo 2.x, Dataflow Compiler 3.x, HailoRT 4.x 계열을 사용하고 Hailo-10/Hailo-15는 최신 5.x 세대입니다. 모두 Hailo 이름을 사용한다고 레시피, 파서 동작, HEF를 서로 바꿔 쓸 수 있는 것은 아닙니다.

Hailo-15에는 별도의 애플리케이션 계층도 있습니다. Hailo-8/10H TAPPAS 스타일 호스트 경로가 아니라 Vision Processor Software Package와 Hailo Media Library를 사용합니다. 공개 참조 저장소 hailo-camera-apps는 2026년 5월 3일 보관 처리되었고, hailo-apps-core는 별도의 공개 애플리케이션 프레임워크로 유지됩니다. 저장소 보관이 제품 단종의 증거는 아니지만, Hailo-15 프로젝트는 Developer Zone에서 현재 애플리케이션 패키지를 확인해야 합니다.

LibreYOLO의 Hailo 배포 가이드는 독점 컴파일러를 Python 의존성으로 묶을 수 없으므로 정적 ONNX 전달 지점에서 멈춥니다. 이는 적합한 그래프를 만들 수 있는 것과 테스트를 마친 HEF라고 주장할 수 있는 것 사이의 정확한 경계입니다.

Rockchip

Rockchip은 특히 RK3588, RK3576, RK356x 보드를 통해 취미 및 상용 임베디드 Linux 시장에서 큰 비중을 차지합니다. 공개 RKNN-Toolkit2는 x86 Linux 호스트에서 모델을 변환하고 양자화하며, RKNN Runtime 또는 Toolkit-Lite가 보드에서 결과 .rknn 파일을 실행합니다.

RKNN Model Zoo는 칩, 모델 계열, 정밀도를 상세히 표시합니다. 현재 표에는 YOLOv5/6/7/8/10/11, YOLOX, PP-YOLOE, YOLO-World, YOLOv5/v8 분할 변형의 FP16 및 INT8 경로가 있습니다. YOLOv8 OBB와 YOLOv8 pose는 INT8 전용으로 표시됩니다. OCR, 얼굴, 그 밖의 분할 네트워크도 포함합니다.

LibreYOLO는 이미 보수적인 직접 RKNN 내보내기 도구를 제공합니다. RK3588에서 정확한 탐지 변형 4개를 검증하고, 컴파일러 시뮬레이터와 ONNX Runtime을 비교할 수 있으며, 성공적인 빌드를 올바른 예측과 동일시하지 않고 검증되지 않은 계열은 거부합니다. 이처럼 제한된 지원 주장은 향후 모든 NPU 백엔드의 좋은 본보기가 됩니다.

Axelera AI

Axelera AI는 종종 "Accelera"로 잘못 표기되며 Metis AIPU를 개발하고 M.2, PCIe, 멀티칩 제품으로 판매합니다. 구매 가능한 제품군은 Metis이며 Europa와 Titania는 발표된 제품이므로 제품 상태를 한 범주로 합치면 안 됩니다. 공개 Voyager SDK는 GitHub에서 사용할 수 있고 모델 선택, 컴파일, 양자화, 실행, 애플리케이션 파이프라인을 처리합니다. 고객 지원에는 계정이 필요합니다.

공개 Voyager Model Zoo는 시장에서 정보가 가장 많은 자료 중 하나입니다. YOLOv3, YOLOv5, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, YOLO26 n/s/m/l/x, YOLOX, YOLO-NAS, OBB, 자세 추정, 분할과 다양한 분류/밀집 예측 모델의 변형, 입력 크기, 정밀도, 정확도, 측정 성능을 나열합니다. 속도만이 아니라 양자화 손실과 정확도도 함께 공개하는 편이 최대 TOPS 수치만 공개하는 것보다 유용합니다.

API 세대가 바뀌면서 산출물 이름도 변했습니다. 알파 Pipeline Builder 컴파일 절차는 .axm 모델을 만들고 이식 가능한 파이프라인을 .axe로 패키징할 수 있습니다. 기존 파이프라인 문서는 모델 메타데이터와 매니페스트가 포함된 .axmodel을 설명합니다. 통합 도구는 확장자를 하나로 고정하지 말고 설치된 Voyager 세대를 확인해야 합니다.

Qualcomm

Qualcomm은 배포 범위가 매우 넓지만 "Qualcomm NPU"에는 여러 인터페이스가 숨어 있습니다. 기기와 제품군에 따라 QAIRT/QNN을 통한 Hexagon HTP, 구형 SNPE 절차, Qualcomm AI Hub 컴파일 서비스, LiteRT, ONNX Runtime QNN 실행 제공자를 사용하게 됩니다.

공식 Qualcomm AI Hub Models 저장소는 모델 수준의 강한 근거를 제공합니다. YOLOv3, YOLOv5, YOLOv6, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, YOLO26 탐지/분할/자세 추정, YOLOX, YOLO-World, YOLOR, RF-DETR 및 많은 분류, 깊이 추정, 자세 모델의 최적화 패키지를 공개합니다. AI Hub는 기기별 프로파일링도 제공하는데, 한 HTP 세대에 컴파일된 모델이 다른 세대로 자동 이식되지 않기 때문입니다.

주요 통합 비용은 조합의 크기입니다. Android와 임베디드 Linux, QCS 주문 부품과 소비자 Snapdragon, HTP 아키텍처, QNN/QAIRT 버전, 양자화 방식 모두 중요합니다. Qualcomm의 현재 자료도 Dragonwing IQ-9075 상태를 서로 다르게 설명합니다. 제품 페이지는 Active라고 표시하고 EVK로 평가할 수 있다고 하지만 Product Longevity Program은 여전히 IQ-9075를 Sampling으로 표시하며 2038년까지의 수명을 나열합니다. 주문/SKU 접두어는 QCS9075이고 Qualcomm은 50 및 100 dense INT8 TOPS 구성과 Ubuntu/Yocto 지원을 광고합니다. 정확한 주문 SKU의 양산 상태를 확인하고 LibreYOLO 통합에서도 "Qualcomm"이라는 일반 폴더를 만드는 대신 해당 SKU를 기록해야 합니다.

DEEPX

DEEPX DX-M1/DX-M1M 가속기는 DXNN SDK를 사용합니다. DX-COM으로 모델을 컴파일하고 양자화하며 DX-RT로 실행합니다. 배포 산출물은 .dxnn 형식입니다. 회사는 DX-AllSuite, DX-APP의 애플리케이션 예제, 대형 온라인 Model Zoo를 공개합니다.

2026년 8월 15일 확인 당시 공개 카탈로그는 DX-COM 2.4.0, DX-RT 3.4.0 기준으로 항목 354개를 표시했습니다. 문서화 범위에는 YOLOv3~YOLO11과 YOLO26, YOLOX, SSD, EfficientDet, NanoDet, DAMO-YOLO, YOLO 분할, 자세 추정, 방향 바운딩 박스가 포함됩니다. 컴파일러/런타임 경계와 배포 산출물 이름이 명확하고 공개 비전 지원 범위가 넓어 DEEPX는 특히 통합 후보로 적합합니다.

산업용 SoC는 하나가 아니라 여러 생태계

산업용 업체는 메이커 보드 SoC보다 제품 수명이 길고 카메라, 안전, 실시간 통합이 우수한 경우가 많습니다. 한 업체가 서로 관련 없는 NPU 아키텍처를 여럿 제공할 수 있어 AI 스택은 더 복잡해질 수 있습니다.

Texas Instruments

TI의 최신 엣지 AI 프로세서는 AM62A, AM67A, AM68A, AM69A와 관련 TDA4 장치입니다. 소프트웨어 경로는 Processor SDK Linux, TIDL 컴파일러/런타임, Edge AI TIDL Tools, Edge AI Model Zoo를 조합합니다. TIDL은 ONNX Runtime, TensorFlow Lite 등 애플리케이션 런타임과 통합하면서 지원하는 하위 그래프를 오프로딩할 수 있습니다.

TI는 프레임워크 가져오기 주장 이상의 자료를 공개합니다. 모델 동물원에는 객체 탐지, 분할, 자세 추정, 분류, 깊이 추정 등의 변환 모델과 성능 메타데이터가 있습니다. TI는 모델 동물원 산출물이 개발 시작점이지 자동으로 프로덕션에 바로 쓸 수 있는 자산은 아니라고 경고합니다. 이는 벤더 비교에서 자주 빠지는 중요한 주의사항입니다.

TI는 TDA54-Q1도 Preview로 표시하며, 해당 부품에 C7 NPU 최대 4개와 최대 400 TOPS를 명시합니다. 더 넓은 TDA5 제품군은 최대 1,200 TOPS로 광고합니다. 이는 신세대 제품에 대한 벤더 주장이지 TI가 대상별 표를 공개하기 전에 AM6xA/TDA4 TIDL 모델 검증을 TDA54-Q1에 그대로 적용할 근거는 아닙니다.

NXP

NXP에서는 적어도 네 가지 백엔드 설명이 필요합니다.

eIQ Model Zoo에는 YOLOv4-tiny, YOLOv8, NanoDet, CenterNet, FastestDet, SSD Lite, YOLACT 등의 산출물 또는 레시피가 있습니다. YOLOv5 항목은 문서만 제공합니다. 한 백엔드에서 검증된 항목은 네 가지 모두에 대한 근거가 아닙니다. NXP의 i.MX 플랫폼 YOLO 내보내기 안내도 대상별 변환 문제를 보여 줍니다. NXP는 일체형 eIQ Toolkit이 2025년 3분기 버전 1.17 이후 업데이트를 중단했다고 밝힙니다. 최신 절차는 eIQ Neutron SDK와 같은 독립 패키지를 사용합니다.

NXP는 2025년 10월 Kinara 인수를 완료했습니다. Ara240 데이터시트는 벤더 광고 기준 최대 40 eTOPS와 YOLOv8n 초당 이미지 313장을 보고합니다. NXP 제품 자료에는 Ara SDK와 eIQ Toolkit이 모두 있지만 이것만으로 별도의 i.MX 95 Neutron 경로와 산출물을 서로 바꿔 쓸 수 있다는 뜻은 아닙니다. 16 GB M.2 모듈은 판매 중이고 USB 옵션은 양산 전입니다. NXP는 eTOPS의 "e"가 "equivalent"를 뜻한다고 설명합니다. 이는 "effective"가 아니며 다른 업체의 dense INT8 TOPS 지표와 직접 비교할 수 없습니다.

STMicroelectronics

STM32N6x7 장치는 STM32N657/STM32N647을 포함해 MCU급 제품에 600-GOPS Neural-ART 가속기를 탑재합니다. N6x5 범용 제품군에는 이 가속기가 없습니다. STM32Cube AI Studio와 ST Edge AI Core가 가져온 모델을 분석하고 최적화하며 STM32 AI Model Zoo Services는 배포, 최적화, 벤치마킹, 예제 절차를 제공합니다.

현재 객체 탐지 개요는 분류, 자세 추정, 분할 서비스와 함께 Tiny YOLOv2, YOLOv5u, YOLOv8, YOLO11, YOLO26, ST-YOLOX를 문서화합니다. 이는 200-TOPS PCIe 카드와 같은 성능 등급이 아닙니다. 카메라 입력, 추론, 제어를 저전력과 메모리가 제한된 임베디드 환경에 함께 둘 수 있다는 점에서 의미가 있습니다.

Renesas

Renesas RZ/V 프로세서에는 DRP-AI 가속기가 통합되어 있습니다. 소프트웨어는 DRP-AI Translator와 DRP-AI TVM에서 RUHMI로 발전해 왔으며, RUHMI는 EdgeCortix MERA 기술을 기반으로 합니다. 오픈 RZ/V DRP-AI TVM 저장소와 RZ/V2H 검증 목록은 분류 모델과 함께 YOLOv5, YOLOv8, YOLO11, YOLO26 n/s/m 변형, YOLOX, 자세 추정, 분할 네트워크를 명시합니다.

Renesas는 로보틱스 및 산업용 대상에 적합하지만 재현성을 위해 정확한 보드, DRP-AI 세대, Translator 버전, CPU 측 후처리를 기록해야 합니다.

스마트 센서 및 카메라 중심 프로세서

Sony IMX500

Sony IMX500은 일반 애플리케이션 프로세서가 아닙니다. 이미지 센싱과 AI 처리를 쌓아 추론을 센서에서 수행하므로 카메라 밖으로 전송해야 하는 이미지 데이터가 줄어듭니다. Raspberry Pi AI Camera는 이 아키텍처를 특히 쉽게 사용할 수 있게 합니다.

공식 Raspberry Pi IMX500 모델 저장소는 패키징된 YOLOv8n, YOLO11n, EfficientDet Lite0, NanoDet+, SSD MobileNetV2 FPN Lite 모델을 공개합니다. AI Camera 문서는 변환, 패키징, 센서 후처리를 설명합니다. 배포 단위는 일반 ONNX 파일이 아닌 RPK 패키지이며 센서 메모리와 연산자 제약이 주요 설계 한계입니다. Raspberry Pi 제품 페이지에 따르면 이 카메라는 적어도 2028년 1월까지 생산됩니다.

Ambarella

Ambarella CVflow 프로세서는 카메라, 드론, 자동차 비전 분야에 깊이 자리 잡았습니다. 최신 제품군은 카메라용 CV72/CV75, 고성능 비전 시스템용 CV5/CV52, 자동차용 CV3-AD를 포함합니다. Cooper 개발 플랫폼과 CVflow 컴파일/런타임 절차가 공개적으로 이름이 확인되는 소프트웨어 스택입니다.

공개 개발자 모델 정원에는 YOLOX, RTMDet, DeepLabV3+, TopFormer, OWL-ViT, 멀티모달 모델이 나옵니다. 그러나 상세 컴파일러 문서와 다운로드는 파트너 중심으로 제공됩니다. 따라서 Ambarella 통합은 공개 pip 패키지를 가정하지 말고 벤더 또는 OEM 관계에서 시작해야 합니다.

Synaptics Astra

Synaptics에는 관련 대상이 세 가지 있습니다. SL1600/SL1680 Astra 시스템은 SyNAP 툴킷을 사용해 원본 모델과 YAML 설명에서 model.synap 패키지를 만듭니다. 최신 SL2611/13/15/17/19 장치는 .vmfb를 생성하는 IREE/MLIR 기반 흐름인 Torq 플랫폼을 사용합니다. SR100 계열은 Cortex-M55와 Ethos-U55를 중심으로 한 별도 MCU 제품군이며 전용 SDK가 있습니다. 산출물과 API는 서로 바꿔 쓸 수 없습니다.

공식 YOLO 벤치마크 튜토리얼은 매우 구체적입니다. YOLOv8을 TFLite로 내보내고 SyNAP에서 비대칭 UINT8 보정을 수행한 뒤 SL1680 대상으로 컴파일하고 synap_cli와 객체 탐지 애플리케이션을 실행합니다. 이는 SL1680의 YOLOv8n/v8s를 입증하고 SyNAP이 YOLO11까지 지원한다고 설명합니다. 별도의 SL261x 객체 탐지 가이드는 Torq .vmfb에서 YOLOv8을 실행합니다. 이들은 대상별 공식 예제이지 세 계열 모두에서 모든 YOLO 그래프를 지원한다는 주장이 아닙니다.

MediaTek Genio

최신 IoT AI Hub가 이제 하드웨어/소프트웨어 표, 모델 패키지, 벤치마크 표를 공개하므로 MediaTek도 별도 항목으로 다룹니다. 과거 시장 조사는 이 자료를 감사할 수 없었습니다. Genio 360/360P/420/520/720은 MDLA 5.3 기반 NeuroPilot 8을 사용하고, Genio 510/700은 MDLA 3.0 기반 NP6, Genio 1200은 MDLA 2.0 기반 NP6를 사용합니다. MediaTek은 NeuroPilot 및 MDLA 세대, 연산자 집합, 컴파일러, 런타임이 각 SoC의 수명 동안 버전에 종속된다고 밝힙니다.

분석 AI 경로는 TFLite 중심입니다.

PyTorch model
    -> NeuroPilot Converter and representative calibration
    -> quantized .tflite
    -> version-matched ncc-tflite compiler
    -> chip-generation-specific .dla
    -> Neuron Runtime on MDLA

최신 Genio 제품은 온라인 LiteRT 위임과 지원 운영체제의 ONNX Runtime CPU/NPU 경로도 제공합니다. 이는 오프라인 .dla와 다른 실행 모드입니다. 소프트웨어 아키텍처 가이드와 리소스 표가 차이를 명확히 보여 줍니다.

공식 분석 모델 표는 여러 MDLA 세대의 YOLOv5s 및 YOLOv8s 벤치마크 항목과 변환 가이드를 공개합니다. AGPL-3.0 제한 때문에 사전 변환한 YOLO 산출물은 배포하지 않는다고 명시합니다. Quant8, 640 x 640 오프라인 측정은 Genio 720에서 각각 5.35 ms 및 8.04 ms입니다. YOLOv8s 모델 페이지는 입력/출력 텐서, 백엔드별 시간, MediaTek 사용자 지정 연산자에 대한 경고를 게시합니다. 이는 벤더 벤치마크이지 종단 간 카메라 결과가 아닙니다.

접근성이 제약입니다. 공개 Yocto 문서는 상세하지만 현재 NP8 올인원 변환기/컴파일러 번들과 다수 Android 자료는 NDA 또는 직접 고객 전용으로 표시됩니다. 일반 개발자 계정은 MediaTek Online 고객 계정과 같은 권한을 부여하지 않습니다. 따라서 LibreYOLO는 Genio를 기술적으로 입증됐지만 재현 가능한 사용자 모델 컴파일 통합에는 파트너십이 필요한 대상으로 취급해야 합니다.

중국 중심 엣지 AI 생태계

가장 역량이 높고 접근하기 쉬운 저가형 비전 플랫폼 일부는 영어권 시장 목록에서 빠져 있습니다.

D-Robotics 및 Horizon 기반 BPU 플랫폼

D-Robotics는 RDK X3, X5, Ultra, 최신 S100 계열 제품에 사용되는 BPU 가속기용 RDK 개발 보드 생태계를 운영합니다. RDK Model Zoo의 최신 rdk_x5 브랜치는 RDK X5용 YOLOv5/v5u, YOLOv8/9/10/11/12/13/26, YOLOE, YOLO-World, 탐지, 분할, 자세 추정, 분류, OCR, CLIP 경로를 문서화합니다. X3는 별도 브랜치를 사용하고 최신 S 시리즈 배포는 기본 동물원의 rdk_s 브랜치에 있습니다. 이전 rdk_model_zoo_s 저장소는 과거 데모를 담고 있습니다. 따라서 최신 X5 목록은 모든 모델이 X3, Ultra, S100에서 검증되었다는 근거가 아닙니다.

OpenExplorer/Algorithm Toolchain은 ONNX 또는 Caffe를 가져와 PTQ를 수행하고 PyTorch 중심 QAT 절차를 지원합니다. 배포 방식은 플랫폼마다 다릅니다. 최신 RDK X5는 libdnn을 통한 hbm_runtime에서 .bin을 사용하고, 현재 주요 rdk_s 절차는 libhbucp를 통한 동명의 hbm_runtime API에서 .hbm을 사용합니다. X3에는 이전 브랜치와 추론 인터페이스가 유지됩니다. 이전 rdk_model_zoo_s 자료도 과거 .bin, .hbm 경로를 설명하므로 산출물은 대응 브랜치와 툴체인에 연결해야 합니다. 미지원 연산자는 CPU로 폴백할 수 있습니다. 공개 예제는 유용하지만 RDK OS, 보드 펌웨어, 툴체인, 모델 바이너리 간 버전 조합도 호환성 계약의 일부입니다.

AXERA

AXERA AX650/AX630/AX620 계열은 Sipeed MaixCAM 제품군 같은 소형 AI 카메라와 보드에 사용됩니다. Pulsar2는 ONNX를 가져와 보정과 정밀도 분석을 수행하고 .axmodel을 출력하며 AXEngine이 산출물을 실행합니다.

AXERA 공식 샘플은 YOLOv5/6/7/8/9/10/11/13/26, YOLOX, YOLO-World를 다루며 작업 및 칩 지원은 플랫폼마다 다릅니다. 지원 대상의 최신 YOLO26 예제에는 탐지, 자세 추정, 분할, OBB가 있습니다. Pulsar2 변환 예제는 정확한 텐서 이름, 출력 분할, 레이아웃 변환, 보정 아카이브, 대상 하드웨어 설정 등 실제 작업을 보여 줍니다.

SOPHGO

컴파일러 자체가 오픈 소스라는 점에서 SOPHGO의 TPU-MLIR은 독립적인 통합에 매력적인 스택입니다. ONNX, PyTorch, TFLite, Caffe를 가져와 그래프를 변환 및 양자화하고 BM 대상의 .bmodel 또는 CV18xx 하드웨어의 .cvimodel을 생성합니다.

TPU-MLIR 프로젝트는 대상에 따라 FP32, BF16, FP16, INT8 흐름을 지원합니다. SOPHON 데모 모음은 YOLOv3/4/5/7/8/9/10/11/12/26, YOLOX, PP-YOLOE, YOLO-World, OBB/분할 변형, SSD, CenterNet, RetinaFace, SAM/SAM2, OCR를 명시합니다. BM1684X의 데모가 BM1688 또는 CV18xx에서도 검증된 것은 아닙니다.

Huawei Ascend

Huawei 엣지 추론 제품군에는 Atlas 200I 및 300I 제품의 Ascend 310/310P/310B 실리콘이 포함됩니다. CANN은 ATC 컴파일러, AscendCL 런타임, 칩별 연산자 커널을 제공합니다. ATC는 ONNX 등 원본 표현을 오프라인 .om 모델로 변환합니다.

현재 Atlas 200I DK A2 문서와 CANN 샘플은 Ascend 310B용 YOLOv5 .om 경로를 제공합니다. 더 넓고 오래된 Ascend ModelZoo에는 YOLOv2/3/4/5, YOLOX, YOLOR, SSD, RetinaNet, Mask R-CNN, 자세 추정, 분할 모델이 있지만 모든 항목이 310B에서 재검증된 것처럼 제시하면 안 됩니다. CANN, 커널, 펌웨어, SoC가 서로 맞아야 합니다. Ascend310P용 .om은 범용 Ascend 산출물이 아닙니다.

Cambricon

Cambricon MLU 가속기는 Neuware와 MagicMind 추론 엔진을 사용합니다. 공개 MagicMind Cloud 저장소는 MagicMind 1.7, MLU370-X4/S4 표에 고정되어 있습니다. 이는 과거 호환성 근거이지 현재 SDK 또는 MLU270 검증 표는 아닙니다. 저장소는 PyTorch, ONNX, Caffe, Paddle 경로를 문서화하며, 과거 TensorFlow 예제가 남아 있더라도 1.7에서 TensorFlow 프레임워크 지원은 제거되었습니다. Cambricon의 최신 3-series 개발자 포털에는 더 최신 SDK 릴리스가 있으므로 공개 예제 저장소와 현재 상용 스택을 같은 버전으로 설명하면 안 됩니다.

공식 MagicMind 클라우드 모델 저장소는 매우 직접적인 MLU370-X4/S4 표를 제공합니다. YOLOv3, Tiny-YOLOv3, YOLOv4, YOLOv5, YOLOv7, YOLOv8, PP-YOLOE, SSD, RetinaFace, RetinaNet, Mask R-CNN, DeepLab, UNet 예제와 C++/Python 예제 여부를 표시합니다. 근거는 강하지만 Cambricon 채널을 통한 SDK 및 컨테이너 접근이 주된 장벽입니다.

Canaan/Kendryte

Kendryte의 최신 K230/K230D와 레거시 K210/K510 KPU 칩은 저가형 보드 및 스마트 카메라 시장에서 중요합니다. nncase 컴파일러는 ONNX 또는 TFLite를 가져오고 고정 소수점 변환에 보정 데이터를 사용하며 호스트에서 결과를 시뮬레이션한 뒤 .kmodel을 출력합니다.

공식 K230 nncase 개발 가이드는 YOLOv5s의 컴파일, 시뮬레이션, 실행을 안내합니다. 별도 AI 데모 카탈로그에는 YOLOv8n 탐지, 분할, 자세 추정 산출물이 있고 최신 CanMV 변경 기록에서는 최적화된 YOLOv8/11/26 분류, 탐지, 분할, OBB, 자세 추정 예제를 추가합니다. 실제 공개 벤치마크는 데이터시트의 YOLOv5s 결과입니다. 컴파일러와 바이너리 KPU 플러그인 버전은 보드 SDK에 맞아야 합니다.

Allwinner

Allwinner V853은 카메라 중심 미디어 하드웨어와 1-TOPS Vivante NPU를 결합합니다. 공식 영어 NPU 가이드는 Acuity/Pegasus 가져오기, 양자화, 검증, viplite 배포를 설명합니다. Allwinner의 모델 페이지와 YOLOv5 가이드에는 YOLOv2/3/4/4-tiny/5/5s, RetinaNet, MobileNet, ResNet, 얼굴/사람 네트워크가 나옵니다.

이는 실제 컴퓨터 비전 지원이지만 이전 Tina Linux/Vivante 툴체인과 계정이 필요한 SDK 다운로드에 묶여 있습니다. 이 제한을 명시하면서 시장 지도에 포함해야 합니다.

간과하기 쉬운 한국, 대만, 중국 플랫폼

영어 자료에서는 Rockchip에서 NVIDIA로 곧장 넘어가며, 문서화된 실리콘을 보유한 두 번째 계층을 놓치는 경우가 많습니다. 이 생태계 중 일부는 잘 알려진 서구 스타트업보다 현재 YOLO 표가 더 넓습니다.

Mobilint

한국 가속기 업체 Mobilint는 저전력 REGULUS와 처리량이 높은 ARIES MLA100을 판매합니다. qb SDK는 PyTorch, TensorFlow, TFLite, ONNX, Keras 입력을 받고 INT8로 양자화해 컴파일된 .mxq 산출물을 생성합니다. 공개 비전 표는 YOLOv3/v5/v7/v8/v9/v10/11/12/26 탐지와 YOLO 분할, 자세 추정, OBB 변형을 명시합니다. ARIES 페이지는 YOLO11s와 YOLO26m의 모델별 결과도 공개합니다. 강한 통합 근거지만 SDK와 하드웨어 접근은 상용입니다.

Sunplus

Sunplus SP7350/C3V는 Vivante 기반 NPU 스택을 사용하지만 Allwinner나 구형 Amlogic과 다른 방식으로 패키징합니다. 공개 절차는 Acuity 변환, NPU Docker 환경, SNNF 런타임, .nb 출력을 조합합니다. 공식 사용자 지정 YOLOv8 가이드는 프레임워크 지원만 주장하지 않고 변환과 배포를 안내합니다. 관련 IP를 사용한다는 사실만으로 .nb가 다른 Vivante SoC에서 이식되는 것은 아닙니다.

ESWIN Computing

ESWIN의 RISC-V 계열에는 EIC7700/EIC7700X 및 듀얼 다이 EIC7702/EIC7702X가 포함됩니다. EIC7700은 Milk-V Megrez 같은 판매 보드에 사용됩니다. ENNP는 EsQuant, 최신 EsAAC 컴파일러, 골든 데이터 생성, 시뮬레이션, ESSDK 런타임을 포함하며 .model 출력을 생성합니다. 이전 ENNP 자료에는 ennc-compile이라는 이름이 사용됩니다. 최신 EsAAC 페이지는 ONNX 입력을 문서화하므로 다른 프레임워크는 지원 IR로 내보내거나 변환해야 합니다. Milk-V 호스팅 ENNP 개요와 YOLOv3 튜토리얼은 공개 종단 간 경로의 근거지만, 현재 폭넓은 모델/정확도 표를 입증하지는 않습니다.

Nuvoton M55M1

Nuvoton M55M1은 Linux 애플리케이션 프로세서가 아니라 Cortex-M55와 Ethos-U55-256으로 구성된 MCU급 설계입니다. NuEdgeWise/NuML과 Arm Vela가 양자화 TFLite Micro 모델을 준비합니다. 공개 NuEdgeWise 저장소는 YOLOv8-nano, YOLOX-nano, YOLO Fastest v1.1, SSD-MobileNet FPNLite, 여러 분류기를 명시합니다. 이 소형 네트워크 예제는 장치의 메모리/전력 등급을 보여 줄 뿐 일반적인 640픽셀 YOLO 변형의 근거가 아닙니다.

Rebellions 및 FuriosaAI

Rebellions ATOM 계열은 RBLN SDK와 컴파일된 .rbln 산출물을 사용합니다. 공식 지원 릴리스는 YOLOv3 tiny/full/SPP, YOLOv5 nx, YOLOv6 nl, YOLOv7 변형, YOLOv8 n~x를 명시합니다. 최신 카드 지원 표는 ATOM CA02와 ATOM+ CA12를 EoL, ATOM+ CA22와 ATOM-Max CA25를 Active로 표시합니다. ATOM-Lite CA21은 제품 페이지는 있지만 해당 SDK 표에는 없어 현재 툴체인 상태가 불분명합니다. 문서는 공개되어 있지만 컴파일러 휠에는 Rebellions Portal 자격 증명이 필요합니다.

FuriosaAI는 세대별로 나눠야 합니다. Warboy는 INT8 .enf 산출물을 사용하는 구형 컴퓨터 비전 가속기이며, 공식 모델 동물원에 SSD, YOLOv5M/L, YOLOv7-w6-pose가 있습니다. RNGD는 주로 LLM/VLM 작업을 겨냥한 별도 .fxb 스택을 사용합니다. Furiosa 최신 로드맵은 YOLOv8m 비전 지원이 2024 Q4 완료됐다고 기록하지만 현재 공개 지원 모델과 성능 자료는 LLM/VLM 중심이며 상세 YOLOv8m 정확도/성능 표는 없습니다. 이는 출시된 세대의 근거이지 Warboy 호환성 근거가 아닙니다.

Realtek, Telechips, T-Head, SigmaStar

이 네 플랫폼은 실제 제품이지만 사용자 모델 변환 경로가 더 좁거나 오래됐거나 접근 제한이 있습니다.

HiSilicon 스마트 비전은 Huawei Ascend와 다릅니다

HiSilicon Hi3516CV610/DV500, Hi3519DV500, Hi3403V100 카메라 SoC는 NNN/SVP-NNN 런타임을 통한 ATC-to-.om 절차를 제공합니다. 공식 HiSpark 모델 동물원은 특히 Hi3403, Hi3591P에 대해 대상별 표에서 YOLOv3/4/5/6/7/8/9/10/11, YOLO11 분할/자세 추정, YOLOv8 OBB/World/분할, OCR, 깊이 추정, TinySAM을 명시합니다. 위에 적은 스마트 비전 SoC 모두에서 각 항목이 실행된다는 뜻은 아닙니다. 일부는 로드맵 항목이므로 출시된 예제와 계획된 지원을 구분해야 하며, 저장소는 제공 모델을 비상업적 사용 전용이라고 명시합니다. ATC/.om이라는 명칭이 같아도 CANN 기반 Ascend 제품군과 산출물/런타임 호환성을 입증하지 않습니다.

신흥 및 특수 가속기 업체

MemryX

MemryX MX3 모듈은 데이터플로 아키텍처를 사용하며 여러 칩을 결합할 수 있습니다. Neural Compiler는 ONNX, TensorFlow Lite, Keras, TensorFlow 모델을 받아 가속기 런타임에서 사용하는 DFP 패키지를 출력합니다. 런타임 API는 다중 모델 및 스트리밍 파이프라인을 지원합니다.

MemryX 문서와 예제에는 탐지, 분할, 자세 추정을 위한 최적화된 YOLO 전처리/후처리가 있습니다. SDK 릴리스 노트는 YOLOv10, YOLO11, YOLO26 지원을 명시합니다. 공개 기술 자료는 유용하지만 Axelera와 비교할 만한 단일 모델/정확도/장치 표는 없습니다.

Kneron

Kneron KL520/KL530/KL630/KL720/KL730 제품은 소형 USB 및 임베디드 가속기를 아우릅니다. Kneron PLUS는 애플리케이션 런타임을 담당하며 최신 Model Toolchain 0.33.1은 해당 대상을 위한 변환, 양자화, 평가, 시뮬레이션, .nef 컴파일을 문서화합니다. KL830은 일부 PLUS 런타임 API에 나오지만 최신 컴파일러 대상 목록에는 없습니다. 벤더 확인 없이 일반 .nef 컴파일 주장을 KL830에 적용하면 안 됩니다.

공식 YOLO 예제는 Tiny-YOLOv3로 과정을 시연하고 다른 Kneron 자료에서는 YOLOv5 학습 및 배포를 다룹니다. 근거는 신뢰할 수 있지만 Hailo, Axelera, Rockchip, DEEPX의 최신 YOLO 범위보다는 좁습니다.

SiMa.ai

SiMa.ai의 MLSoC와 양산 Modalix 50-TOPS 플랫폼은 Palette 소프트웨어 환경을 사용합니다. ModelSDK, MLA 컴파일러, ModelExecutor가 가져오기, 양자화, 컴파일, 프로파일링, 실행을 다룹니다. 작업과 제품에 따라 INT8, INT16, BF16 흐름을 지원합니다.

회사 릴리스 노트에는 검증된 YOLOv7, YOLOv8 탐지/자세 추정/분할, YOLOX 및 YOLOX 분할, DETR, Mask R-CNN, EfficientDet 파이프라인이 나옵니다. 현재 한계도 숨기면 안 됩니다. Palette SDK 2.1 노트는 Python/PT2E 양자화 회귀로 QAT가 작동하지 않는다고 설명합니다. 문서화된 우회 방법은 SDK 2.0에서 주석 처리된 ONNX를 만든 뒤 2.1로 컴파일하는 것입니다. 도구 및 구매는 기업 중심입니다.

배포 경계도 문서화되어 있습니다. ModelSDK 컴파일 절차는 컴파일된 .tar.gz를 출력하고 실행 가능한 ELF를 생성할 수 있습니다. MPK Tool은 배포 가능한 .mpk를 패키징합니다. 이 출력은 MLSoC/Modalix 대상과 Palette 릴리스에 종속됩니다.

EdgeCortix

SAKURA-II는 비전 및 생성형 AI용 60-TOPS 광고 가속기이며 MERA 소프트웨어 프레임워크로 컴파일합니다. EdgeCortix는 Renesas 최신 RUHMI 흐름에도 MERA 기술을 제공합니다.

SAKURA-II 제품 자료는 하드웨어와 컴파일러를 확인하고 M.2/PCIe 하드웨어는 체험 또는 주문 문의를 통해 제공됩니다. 충분히 구체적이고 최신인 공개 YOLO 호환성 표는 찾지 못했습니다. 이는 구매 시 유용한 정보입니다. 하드웨어를 결정하기 전에 모델 검증을 요청해야 합니다.

BrainChip

BrainChip Akida는 기존 밀집 텐서 NPU가 아니라 뉴로모픽 이벤트 도메인 프로세서입니다. MetaTF 환경은 모델 생성, 저비트 양자화, 변환, 시뮬레이션, 하드웨어 실행을 위한 설치형 Python 패키지로 구성됩니다. BrainChip은 현재 출하 중 AKD1500 코프로세서/M.2 제품을 판매하며 레거시 AKD1000 하드웨어, Akida 2 IP도 제공합니다.

최신 Akida 2 모델 카드는 AkidaNet0.5 YOLOv2 탐지기, CenterNet, AkidaUNet, 얼굴 인식 네트워크를 명시합니다. 다른 지원 자료에는 FOMO와 이벤트 기반 작업도 포함됩니다. Akida는 매우 낮은 비트 가중치와 활성화를 지원하지만 일반 INT8 ONNX 대상처럼 다루지 말고 아키텍처를 고려해 변환해야 할 수 있습니다. 명시적인 매핑/적합성 보고서가 없는 한 AKD1000 또는 Akida 2 모델 동물원 결과를 AKD1500에 적용하면 안 됩니다.

Blaize

Blaize는 Picasso SDK, NetDeploy, AI Studio를 소프트웨어 경로로 제공하는 P1600 기반 Pathfinder 및 Xplorer 제품을 판매합니다. 제품 페이지는 비전과 엣지 AI를 명확한 목표 시장으로 제시하지만 최신 공개 모델별 호환성 표는 없습니다.

따라서 이 가이드에서는 커뮤니티 주장을 근거 없이 보태지 않고 Blaize를 상용 및 접근 제한 대상으로 분류합니다. 사용하려는 모델의 벤더 제공 컴파일 및 정확도 보고서를 선행 조건으로 삼아야 합니다.

TinyML 및 엣지 비전

Arm Ethos-U 및 Alif

Arm은 Ethos-U55, U65, U85 NPU IP를 칩 업체에 라이선스합니다. Vela 컴파일러는 양자화 LiteRT/TFLite 그래프를 받아 지원 하위 그래프를 Ethos-U 사용자 지정 연산자로 변환합니다. 지원되지 않는 연산은 CPU에 남을 수 있으므로 "애플리케이션이 실행된다"와 "네트워크 전체가 NPU에서 실행된다"는 서로 다른 주장입니다.

실제 제품에는 Alif Ensemble E7의 Ethos-U55, NXP i.MX 93의 Ethos-U65, 최신 시스템의 Ethos-U85가 포함됩니다. Alif E7 AI/ML AppKit은 ML 가속기 2개를 설명하고 E7의 TFLite-to-Vela 경로를 시연합니다. Ensemble E8은 Ethos-U85 하나와 Ethos-U55 NPU 두 개를 결합합니다. Alif는 Cortex-M55와 Ethos-U55에서 192 x 192로 실행한 제품군 수준 INT8 YOLO-Fastest 얼굴 탐지 벤치마크도 공개하지만 최신 YOLO의 폭넓은 대상별 표는 없습니다. 이런 메모리 제약 시스템은 작은 분류/탐지 네트워크에 적합하며 TFLite로 표현할 수 있다는 이유만으로 임의의 640픽셀 탐지기가 들어가는 것은 아닙니다.

Infineon PSOC Edge, Himax WiseEye2, Analog Devices MAX7800x

Infineon PSOC Edge E83 및 E84 계열은 Cortex-M55와 Ethos-U55를 결합하고 저전력 M33 측에 별도 NNLite 블록을 더합니다. E84 아키텍처 매뉴얼은 8비트 가중치, 8/16비트 활성화, 지원 연산자를 NPU 명령 스트림으로 변환하고 나머지를 CPU에 남기는 Vela 흐름을 설명합니다. DEEPCRAFT Model Converter는 TFLite, Keras, PyTorch 경로를 받습니다. 아키텍처 자료는 대상 벤치마크가 아닌 대표 커널로 MobileNetV1/V2를 듭니다. E84 AI Kit는 카메라를 포함하고 ModusToolbox를 사용하지만 공개 자료에는 아직 모델 이름이 명시된 YOLO 호환성 표가 없습니다. 모델 수준 근거가 발전 중인 프로그래밍 가능한 비전 플랫폼이며, 범용 탐지기 대상으로 검증된 것은 아닙니다.

Himax HX6538 WiseEye2도 상시 동작 비전을 위해 Cortex-M55와 Ethos-U55를 결합합니다. 이 전력 등급에서는 공개 소프트웨어 자료가 특히 구체적입니다. 공식 Grove Vision AI Module V2 예제에 YOLOv8n 객체 탐지, 자세 추정, 성별 분류, YOLO11n 탐지, 얼굴 메시, PeopleNet이 있습니다. 통합 경로는 TFLite Micro와 Vela를 사용하고 필요한 경우 CMSIS-NN 및 참조 커널로 폴백합니다. 이는 의도적으로 작은 모델과 해상도이며 일반적인 서버급 YOLO 그래프가 적합하다는 근거가 아닙니다.

Analog Devices는 MAX78000/MAX78002 CNN 가속기로 다른 경로를 택합니다. 공개 ai8x-synthesis 도구는 학습된 네트워크를 양자화하고 이식 가능한 ONNX 런타임 패키지가 아니라 대상별 C 코드, 가중치, 가속기 구성을 생성합니다. 자사 근거에는 얼굴 식별, ADI 모델 동물원의 TinierSSD QR 탐지, 이미지 분류기가 있습니다. 엣지 비전에 유용한 장치지만 최신 YOLO의 공식 표는 찾지 못했습니다.

GreenWaves GAP9

GAP9은 RISC-V 연산과 NE16 신경망 엔진을 결합합니다. NNTool은 네트워크를 가져와 양자화하고 AutoTiler와 GAP SDK가 배포 코드를 생성합니다. 공개 GAP9 신경망 메뉴에는 MobileNet, EfficientNet, ResNet, MobileNet SSD, 얼굴 인식, 인식 애플리케이션이 있습니다. GreenWaves는 정확도 및 시뮬레이션 결과가 포함된 YOLOX 사람 탐지 프로젝트도 공개합니다.

이는 투명성이 특히 높은 TinyML 근거지만 전체 SDK는 자격을 갖춘 고객에게만 제공되며 모델 크기도 일반적인 640 x 640 YOLO 변형보다 훨씬 작습니다.

Lattice sensAI

Lattice sensAI는 고정 NPU의 FPGA 대안입니다. sensAI Studio와 Neural Network Compiler는 ECP5, iCE40 UltraPlus, CrossLink-NX, CertusPro-NX, Avant-E, Avant-X 장치의 구성 가능한 가속기 IP에 지원 그래프를 매핑합니다. 출력은 이식 가능한 런타임 모델이 아니라 선택한 FPGA, 가속기 모드, 메모리 레이아웃, 비트스트림에 종속됩니다.

최신 Neural Network Compiler 매뉴얼은 구체적인 토폴로지 표를 제공합니다. ECP5의 YOLOv1, CrossLink-NX 및 CertusPro-NX의 최적화/고급 모드 YOLOv5/YOLOv8, Advanced 모드 IP 전용 YOLO11을 표시합니다. FPGA 제품군별 미지원 셀이 나타난 SSD, MobileNetV2-SSD, ResNet, ENet, SqueezeDet 등도 있습니다. Advanced CNN Accelerator는 Avant-E/Avant-X/CertusPro-NX를 대상으로 하는 상용 IP입니다. 이는 컴파일러 표의 근거이지 비트스트림 하나에서 모든 토폴로지를 동시에 지원한다는 보장은 아닙니다.

Microchip VectorBlox

Microchip 공개 VectorBlox SDK 3.1은 PolarFire SoC FPGA의 구성 가능한 CoreVectorBlox IP를 위해 완전 양자화 INT8 TFLite 네트워크를 전처리하고 컴파일합니다. tflite_preprocess와 vnnx_compile은 .vnnx, .hex, .ucomp 배포 파일을 만들며 저장소에는 시뮬레이터와 대상 측 C 드라이버가 있습니다. 업스트림 TensorFlow, ONNX, OpenVINO 그래프도 문서화된 TFLite/INT8 준비 경로를 통과해야 합니다.

현재 튜토리얼 표에는 YOLOv5n, YOLOv8n 탐지, 분류, OBB, 자세 추정, 분할, YOLOv9t, 희소/압축 YOLO 변형, MobileNet, EfficientNet-Lite0, ResNet18, MiDaS, FFNet, QuickSRNet이 포함됩니다. C 후처리 가이드는 YOLOv2/3/4/5와 Ultralytics 탐지, 자세 추정, OBB 디코더를 별도로 명시합니다. SDK 3.1은 현재 PolarFire SoC Video Kit을 지원하고 비 SoC PolarFire Video Kit은 명시적으로 제외하므로 구형 보드 데모와 현재 대상 계약을 혼동하면 안 됩니다.

SDK는 소프트웨어와 파생물의 사용을 Microchip 제품으로 제한하는 Microchip 전용 라이선스로 공개 다운로드됩니다. Microchip은 요청 기반 무료 Libero Silver 및 CoreVectorBlox 라이선스를 제공합니다. 배포는 FPGA 시스템 계약에 여전히 종속됩니다. 가속기 구성, 비트스트림, 펌웨어, SDK 생성 네트워크 데이터, 메모리 레이아웃이 서로 일치해야 합니다. VectorBlox 컴파일이 성공했다고 임의의 PolarFire 설계에 모델 바이너리를 복사할 수 있는 것은 아닙니다.

Syntiant

Syntiant NDP200은 일반 Linux SoC보다 낮은 전력 범위에서 상시 동작 비전, 오디오, 센서 추론을 대상으로 합니다. 현재 하드웨어 표는 NDP200을 양산 중, NDP250을 샘플링 중으로 표시합니다. NDP200 제품 설명서에는 CNN, RNN, 완전 연결 네트워크가 1 mW 미만으로 명시되어 있습니다. NDP250 발표는 상시 동작 이미지 인식을 30 mW 미만으로 설명합니다. "1 mW 미만"을 두 제품 모두에 일반화하면 안 됩니다.

공개 자료는 광범위한 YOLO 호환성을 입증하지 않습니다. 따라서 일반 ONNX 내보내기를 가정하지 말고 벤더 지원 모델 평가를 통해 작은 상시 동작 분류기와 탐지기를 검토해야 합니다.

Google Coral: 서로 무관한 두 세대

레거시 Edge TPU 제품은 완전 INT8 TFLite 모델과 Edge TPU Compiler, libedgetpu, PyCoral을 사용합니다. 주요 Edge TPU 및 PyCoral 저장소는 보관 처리되었습니다. 이는 유지보수 위험이지만 공식 하드웨어 단종 공지는 아닙니다.

Google은 저전력 SoC 통합용 RISC-V 가속기 IP인 별도 활성 오픈 소스 Coral NPU도 유지합니다. 현재 공개 프로젝트에는 RTL, 하드웨어 시뮬레이션, 툴체인, ELF 예제가 있습니다. 이는 Edge TPU의 직접적인 USB/M.2 후속품이 아니며 최신 YOLO 배포 표도 공개하지 않습니다.

인접 GPU, 클라이언트 NPU, 적응형 연산 관련 주의점

NVIDIA, AMD, Intel, Apple은 NPU 검색에 자주 등장하지만 서로 대체 가능한 한 종류의 가속기를 제공하지는 않습니다.

NVIDIA Jetson: Jetson Orin은 CUDA GPU와 전용 DLA 코어를 결합합니다. TensorRT는 DLA용 직렬화 엔진을 만들 수 있지만 GPU 폴백을 명시적으로 활성화한 경우에만 미지원 레이어가 GPU에서 실행됩니다. 최신 DeepStream YOLO 표에는 YOLOv4/v7/v8/v9/11이 있지만 대부분 GPU 대상이며 ONNX DLA 항목으로 명시된 것은 YOLOv8s INT8입니다. NVIDIA DLA 제한사항은 연산자 제한을 설명합니다. Thor도 구분해야 합니다. NVIDIA DriveOS 마이그레이션 가이드에 따르면 GPU 스케줄링 유연성을 위해 Thor에서 DLA 코어를 제거했습니다. 따라서 "Jetson에서 실행"만으로 어떤 가속기를 썼는지 알 수 없습니다.

AMD Vitis AI: 이전 Kria/DPU 세대는 .xmodel 그래프를 컴파일하고 VART로 실행했습니다. 최신 Vitis AI 6.2는 별도의 두 Versal AI Edge 경로에서 GA입니다. VEK280/VE2802의 Gen1은 ONNX, AMD Quark, 대상 종속 스냅샷/하위 그래프 절차를 사용하고 VEK385의 Gen2는 별도 컴파일/런타임 계약이 있습니다. Gen1은 YOLOv5, YOLOv7, YOLOv8, YOLOX 예제를 공개합니다. Ryzen AI는 네 번째로 별도인 클라이언트 NPU 스택입니다. 모두 Vitis 또는 AMD 이름을 사용한다고 레거시 DPU, Versal Gen1/Gen2, Ryzen AI 간에 산출물이나 검증 정보를 옮기지 마십시오.

Intel OpenVINO: OpenVINO는 하나의 API로 CPU, GPU, Core Ultra NPU를 대상으로 할 수 있습니다. Intel NPU 플러그인 문서는 지원 NPU 세대를 밝히고 검증 모델 표는 장치별 열을 제공합니다. YOLO 노트북은 애플리케이션 절차의 근거이지 해당 표에 표시되지 않았다면 NPU 검증의 근거가 아닙니다. 지원 연산, 모양, 정밀도, 설치된 NPU 드라이버가 그래프 전체의 실행 여부를 결정합니다. OpenVINO IR(.xml 및 .bin)은 재사용 가능한 소스 수준 IR이고 컴파일 모델 캐시는 장치 및 소프트웨어에 종속됩니다.

Apple Core ML: coremltools는 모델을 .mlpackage로 변환하고 Xcode가 이를 .mlmodelc로 컴파일합니다. Core ML은 CPU, GPU, Apple Neural Engine에 연산을 배치할 수 있지만 정확한 분할은 의도적으로 추상화합니다. 따라서 프로파일링으로 확인하지 않은 채 "YOLO 그래프 전체가 NPU에서 실행됐다"고 주장하기는 어렵습니다.

칩 업체 뒤의 NPU IP 기업

일부 기업은 보드나 패키지형 가속기를 직접 판매하지 않습니다. SoC 업체에 NPU 설계를 라이선스합니다. 같은 기반 아키텍처가 여러 칩 브랜드에 나타날 수 있지만 최종 SDK와 산출물은 라이선스를 받은 업체가 별도로 맞춤화할 수 있으므로 중요합니다.

Imagination은 아키텍처 이름 옆에 접근성과 수명 주기를 표시해야 하는 이유를 보여 줍니다. Open Access 프로그램은 선불 IP 라이선스 비용 없이 실리콘 검증 Series3NX 구성 세 가지를 제공하지만, 회사 평가 이후 유료 지원/유지보수와 양산 로열티가 적용됩니다. Neural Compute SDK에는 컴파일, 최적화, 양자화, 런타임 도구가 있습니다. 공식 Baidu PaddlePaddle 협업은 PP-YOLOE 탐지, EfficientNet 분류, HRNet 분할을 명시합니다. 이 예제는 모든 Series3NX 또는 Series4 구성을 검증하지 않습니다. 현재 개별 Series4 제품 페이지에서 제품을 구매할 수 없다고 표시하므로 영업팀이 확인하기 전까지 Series4는 과거 제품으로 취급해야 합니다.

이 계층은 제품 계열이 겉보기에 비슷한 이유를 설명합니다. 하지만 산출물의 이식성을 만들지는 않습니다. Vivante 또는 Ethos IP가 관련되어 있어도 두 SoC의 메모리 맵, 드라이버, 컴파일러 버전, 연산자 집합, 벤더 런타임은 다를 수 있습니다.

실제 배포 대상: 산출물 종속성 표

컴파일 파이프라인의 마지막 파일에서 ONNX 이식성의 한계가 드러납니다. 이름과 확장자는 시간이 지나며 바뀌지만 실무 원칙은 같습니다. 네이티브 산출물은 대체로 다른 NPU 세대로 옮길 수 없고 다른 SDK 릴리스로 안정적으로 다시 만들 수도 없으므로 원본 모델과 보정 데이터를 보관하십시오.

이 표는 확장자만 정리한 것이 아닙니다. 컴파일러 버전, 대상 식별자, 드라이버, 펌웨어, BSP는 모델 재현 정보의 일부입니다. 향후 LibreYOLO 내보내기 도구는 산출물 옆에 기계 판독 가능한 매니페스트를 기록해야 합니다.

도구 접근성과 제품 수명 주기 신호

하드웨어 구매 가능성과 컴파일러 접근성은 별개입니다. 보드는 쉽게 구할 수 있지만 현재 컴파일러에는 고객 계약이 필요할 수 있고, SDK는 공개되어도 대상 실리콘을 구하기 어려울 수 있습니다. 다음은 보편적인 수명 순위가 아니라 구체적인 1차 자료 신호입니다.

TOPS는 구매 기준이 아닙니다

최대 TOPS는 한 벤더 및 아키텍처 안에서는 유용할 수 있지만 다음 조건이 모두 맞지 않는다면 벤더 간 비교는 대체로 유효하지 않습니다.

• INT8, INT4, FP16, 혼합 모드 등 수치 정밀도
• 곱셈 누산 한 번을 연산 하나로 셌는지 둘로 셌는지
• 밀집 연산과 구조적 희소 연산 구분
• 입력 해상도, 배치 크기, 모델 그래프
• 양자화 후 정확도
• NPU 단독 지연 시간과 애플리케이션 전체 파이프라인 지연 시간
• 메모리 전송과 호스트 폴백
• 열 상태와 순간 성능이 아닌 지속 성능

탐지기는 파이프라인입니다. 이미지 수집, 크기 조정/레터박스, 정규화, 장치 전송, 신경망 추론, 디코드, NMS, 좌표 변환, 애플리케이션 로직이 포함됩니다. 벤더는 흔히 그중 신경망 추론 부분만 공개합니다. MLPerf Inference Edge는 홍보용 연산량을 따로 비교하지 않고 시나리오, 품질 기준, 시스템 수준 측정 규칙을 정의하므로 유용합니다.

YOLO 배포에서 신뢰할 수 있는 최소 벤치마크 기록은 다음과 같습니다.

exact checkpoint + checksum
source and compiled model format
compiler, runtime, driver and firmware versions
target board and clock/power mode
input resolution and batch
precision and calibration dataset
accuracy before and after compilation
warmup and sample count
preprocess, inference and postprocess latency
power measurement boundary

이 항목이 없으면 FPS 두 수치는 대개 서로 다른 것을 측정합니다.

컴퓨터 비전용 NPU 선택

제품 페이지에서 가장 큰 숫자를 고르지 말고 다음 순서로 선택하십시오.

1. 그래프 호환성을 입증합니다. 이름이 비슷한 모델 동물원 체크포인트가 아니라 내보낸 정확한 모델을 컴파일합니다.
2. 정확도를 측정합니다. 보정 및 양자화 후 실제 작업 데이터셋에서 컴파일 산출물을 검증합니다.
3. 종단 간 성능을 측정합니다. 입력 변환, 전송, 디코드, NMS를 포함합니다.
4. 소프트웨어 접근성을 확인합니다. 컴파일러가 공개인지, 등록이 필요한지, 상용 계약 후에만 쓸 수 있는지 파악합니다.
5. 버전 조합을 고정합니다. 컴파일러, 런타임, 드라이버, 펌웨어, 대상 식별자를 기록합니다.
6. 운영체제 지원의 실제 범위를 확인합니다. Android, Debian, Yocto, Buildroot, RTOS, Windows 지원은 서로 대체되지 않습니다.
7. 공급과 수명 주기를 확인합니다. 모듈, 드라이버, 장기 지원이 불확실하면 기술적으로 뛰어난 칩도 양산에 부적합할 수 있습니다.
8. 그다음 비용, 전력, 성능을 비교합니다. 두 대상에서 같은 모델이 올바르게 동작한 뒤에야 측정값을 비교할 수 있습니다.

사용 사례별 실용적인 시작점

이 표는 조사 기반 후보 목록이지 성능 순위가 아닙니다. 조달, 지역별 공급, 정확한 모델에 따라 순서가 바뀔 수 있습니다.

LibreYOLO에 주는 의미

확장 가능한 설계는 서로 무관한 내보내기 도구 수십 개가 아닙니다. 엄격한 교환 계약 하나와 소규모 벤더 컴파일러/런타임 어댑터가 필요합니다.

LibreYOLO model
    -> deterministic static ONNX
    -> VendorCompiler.compile(model, target, calibration, precision)
    -> native artifact + manifest
    -> VendorRuntime.load() / infer()
    -> shared task-specific decode and Results objects

모든 네이티브 산출물에 다음 내용을 담은 보조 매니페스트가 있어야 합니다.

• 벤더, 칩 대상, 보드 대상
• 컴파일러, 런타임, 드라이버, 펌웨어 버전
• 원본 체크포인트 및 ONNX 체크섬
• 입력 이름, 모양, 레이아웃, 색 공간, 정규화, dtype
• 양자화 정밀도, 공개된 경우 스케일, 보정 데이터 해시
• 출력 텐서 이름, 모양, 의미
• 탐지 작업, 클래스 이름, 디코드/NMS가 칩 또는 호스트에서 실행되는지 여부
• 기록된 수치적 동등성 및 작업 정확도 결과

LibreYOLO는 이미 이식 가능한 ONNX 내보내기, 양자화 도구, 의도적으로 제한한 직접 RKNN 내보내기, 정직한 외부 컴파일러 Hailo 절차를 제공합니다. 이 가이드 기준으로 Amlogic ADLA는 강력한 다음 통합 후보입니다. 툴킷이 공개되어 있고 모델 범위가 LibreYOLO와 많이 겹치며 구형 A311D 경로를 명확히 분리할 수 있습니다.

Amlogic 다음 우선순위는 컴파일러 접근성만이 아니라 사용자의 하드웨어와 정확도 검증 가능성을 기준으로 정해야 합니다. DEEPX, Sony IMX500, D-Robotics, AXERA, SOPHGO, Qualcomm은 기술적으로 매력적입니다. TI, NXP, ST, Renesas는 산업 파트너가 보드와 장기 CI 접근성을 제공할 수 있을 때 특히 가치가 높습니다.

주시 목록: 공개 통합 계약이 없는 실제 실리콘

기업을 완전히 제외하면 시장 지도가 오해를 부를 수 있습니다. 반대로 "지원"으로 포함하면 더 문제가 될 수 있습니다. 이 업체들은 관련 실리콘을 판매, 샘플 제공, 발표했지만 공개 근거만으로 LibreYOLO 백엔드에 필요한 재현 가능한 최신 컴파일러, 산출물, 모델 경로를 입증하지 못했습니다.

이 주시 목록은 근거 중심으로 구성했습니다. 업체가 최신 툴체인 또는 평가 경로, 대상별 산출물 계약, 종단 간 절차가 있는 모델 하나 이상을 공개하면 배포 대상 표로 옮길 수 있습니다.

의도적으로 주장하지 않은 내용

이 글은 이름이 나온 모든 모델이 모든 업스트림 저장소에서 작동한다고 주장하지 않습니다. 벤더 모델 동물원의 모델은 수정되거나 출력 노드가 다르게 분할되거나 사용자 지정 후처리와 짝을 이루는 경우가 많습니다.

다음 사실도 지원 주장으로 바꾸지 않습니다.

• 컴파일러가 ONNX를 가져옴.
• 칩이 Android NNAPI 드라이버를 광고함.
• 유통업체가 보드가 "YOLO 호환"이라고 말함.
• 커뮤니티 저장소에서 한 모델 변형을 실행함.
• 오류 없이 모델이 컴파일됨.
• 벤더가 정확도 결과 없이 NPU 단독 FPS를 보고함.

Google Tensor 휴대전화 가속기와 다수 OEM 전용 맞춤 ASIC도 실제 제품이지만 Google은 Tensor를 위 플랫폼과 비슷한 범용 셀프 서비스 컴파일 대상으로 공개하지 않습니다. 기업이 존재하거나 NPU 블록 다이어그램이 있거나 Android 가속이 된다는 사실만으로 LibreYOLO 통합 주장을 만들 수는 없습니다.

Google TPU, AWS Inferentia/Trainium, Microsoft Maia, 데이터센터 전용 AI 카드 같은 클라우드 가속기도 범위 밖입니다. 이 가이드는 컴퓨터 비전 개발자가 엣지에서 실제 배포할 수 있는 하드웨어를 다룹니다.

모델 라이선스는 별도 계층입니다. 칩 벤더가 YOLO 변환 레시피를 게시해도 업스트림 가중치, 학습 코드, 컴파일된 파생물의 사용 또는 재배포 권리를 부여하지는 않습니다. 하드웨어 지원, SDK 라이선스, 모델 라이선스를 각각 실제 제품 기준으로 확인해야 합니다.

조사 방법 및 정정

각 기업에 대해 다음 네 가지 1차 출처를 조사했습니다.

1. 실리콘을 식별하는 최신 제품 페이지 또는 데이터시트.
2. 실제 배포 절차를 설명하는 컴파일러/런타임 문서.
3. 비전 모델 이름을 명시하는 모델 동물원, 호환성 표, 종단 간 튜토리얼.
4. 개발자가 도구를 실제로 얻을 수 있는지 보여 주는 제품 수명 주기/접근성 신호.

자사 GitHub 조직은 벤더 자료로 간주합니다. 칩 회사가 같은 자료를 공개하지 않는 경우 보드 업체 문서는 생태계 근거라고 표시했습니다. 제3자 성능 주장은 비교 표에서 제외했습니다.

완성된 초안은 별도 벤더 그룹 점검과 표 간 교차 점검을 거쳤습니다. 이 점검에서 대상 범위, 산출물 이름, 정밀도, 모델과 후처리기 근거, 발표와 출시 상태, 수명 주기 표기, 벤치마크 분모, 모든 기업 수를 다시 확인했습니다. 1차 자료끼리 충돌하면 더 편한 수치 하나를 고르지 않고 충돌을 드러냈습니다.

이 시장은 빠르게 바뀝니다. 관련 기업에서 칩, SDK, 모델 목록, 접근성 상태가 잘못되었다면 정확한 공개 문서 URL과 버전을 LibreYOLO에 보내 주십시오. 1차 근거로 뒷받침된 정정은 이 글을 대신해야 하며 문서화되지 않은 마케팅 주장은 그렇지 않습니다.

FAQ

엣지 AI NPU 기업은 몇 곳입니까?

제품 공급업체, IP 라이선스 업체, 스마트 센서, GPU, 비공개 자동차 ASIC의 범위가 겹치므로 보편적인 기업 수는 없습니다. 이 비망라형 가이드는 2026년 8월 기준으로 관련 엣지 AI 칩, 가속기 플랫폼, 라이선스 가능한 NPU IP 또는 근거가 있는 주시 대상 실리콘을 보유한 기업과 플랫폼 생태계 69곳을 추적합니다.

NPU란 무엇입니까?

신경망 처리 장치(neural processing unit)는 합성곱과 행렬 곱셈 같은 신경망 연산에 특화된 하드웨어입니다. 업체마다 NPU, AIPU, BPU, KPU, DLA, HTP, TPU, MLA 등의 용어를 사용하며 컴파일된 모델은 대체로 업체 간에 이식할 수 없습니다.

YOLO 모델을 공식 지원하는 NPU 기업은 어디입니까?

Amlogic, Hailo, Axelera AI, Rockchip, Qualcomm, MediaTek, DEEPX, D-Robotics, AXERA, SOPHGO, Huawei, Cambricon, Raspberry Pi의 공식 AI Camera 저장소를 통한 Sony IMX500, STMicroelectronics, Renesas, Lattice, Himax, Microchip 등은 적어도 한 YOLO 세대에 대해 자사 모델 동물원 항목, 튜토리얼 또는 검증 결과를 제공합니다. 정확한 세대, 작업, 칩 대상, SDK 버전은 여전히 확인해야 합니다.

아무 ONNX 모델이나 모든 NPU에서 실행할 수 있습니까?

아닙니다. ONNX는 교환 형식이지 하드웨어 호환성을 보장하지 않습니다. NPU 컴파일러는 그래프의 모든 연산자, 텐서 모양, 데이터 형식을 지원해야 합니다. 정적 모양, 그래프 분할, 사용자 지정 연산, CPU 폴백이 흔합니다.

YOLO에 가장 적합한 NPU는 무엇입니까?

모든 경우에 앞서는 제품은 없습니다. Hailo, Rockchip, Axelera AI, DEEPX, Amlogic은 문서로 확인되는 YOLO 지원 범위가 넓고, Qualcomm은 특히 다양한 기기에서 사용할 수 있습니다. 양자화 후 정확도, 전체 파이프라인 지연 시간, 지속 전력, 가격, 공급 상황, SDK 접근성, 운영체제 지원을 기준으로 선택하십시오.

NPU TOPS 수치를 직접 비교할 수 없는 이유는 무엇입니까?

업체마다 정밀도, 희소 연산, 곱셈 누산, 최대 활용률 가정을 다르게 계산할 수 있습니다. TOPS에는 메모리 트래픽, 미지원 연산자, 전처리, 후처리, 호스트 오버헤드가 반영되지 않습니다. 같은 모델, 정밀도, 해상도, 정확도, 전체 파이프라인을 비교해야 합니다.

NPU 보정이란 무엇입니까?

보정은 보통 레이블이 없는 대표 배포 이미지를 모델에 입력해 컴파일러가 INT8 또는 다른 저정밀도 형식의 활성화 범위를 추정하게 하는 과정입니다. 무작위이거나 대표성이 없는 이미지로도 컴파일 산출물이 만들어질 수 있지만 작업 정확도는 낮아질 수 있습니다.

LibreYOLO는 엣지 NPU를 지원합니까?

LibreYOLO는 ONNX와 여러 런타임 형식으로 내보내며, 일부 Rockchip 모델에는 직접 RKNN 컴파일 경로를 제공하고 외부 Hailo 컴파일 절차도 문서화합니다. 그 밖의 모든 벤더 네이티브 산출물에는 해당 벤더 SDK가 필요합니다. 하드웨어에서 컴파일, 검증, 실행하기 전까지는 통합 후보라고 설명해야 합니다.