69 Perusahaan NPU Edge AI untuk YOLO: Chip dan SDK (2026)

Tidak ada satu pasar NPU yang tunggal. Panduan non-ekshaustif ini mencatat 69 perusahaan dan ekosistem platform: 51 vendor dengan chip atau platform yang dapat digunakan, sembilan pemasok IP NPU, dan sembilan perusahaan watchlist yang diberi label jelas. Mereka mencakup beberapa kelas akselerator yang tidak kompatibel dan hampir sama banyaknya stack compiler. Kebanyakan menjanjikan alur yang sama: ekspor model, lakukan kuantisasi, kompilasi, salin artefak proprietary ke board, lalu panggil runtime vendor. Detailnya menentukan apakah alur itu selesai dalam satu sore atau satu kuartal kerja rekayasa.

Panduan ini memetakan perusahaan yang menyediakan perangkat keras computer vision yang kredibel pada 2026. Panduan ini mencatat chip terkait, nama SDK dan compiler, artefak deployment, tingkat akses publik, serta model yang benar-benar didokumentasikan vendor. Perhatian khusus juga diberikan kepada Amlogic, karena stack ADLA yang lebih baru berbeda secara material dari ekosistem NPU A311D yang lebih lama.

Cakupan riset: Sumber diperiksa pada 15 Agustus 2026. Klaim model bernama bersumber dari halaman produk, dokumentasi, model zoo, repositori, atau tutorial vendor pihak pertama, kecuali dinyatakan lain. Angka TOPS yang diiklankan adalah angka vendor, bukan hasil benchmark yang dapat dibandingkan secara independen. Ini panduan developer, bukan saran investasi atau pemeringkatan berbayar.

Navigasi cepat: tabel perusahaan | ulasan mendalam Amlogic | profil vendor | tabel artefak terkompilasi | akses dan sinyal siklus hidup | peta jalan LibreYOLO

Temuan terpenting

Perangkat kerasnya terfragmentasi, tetapi pola deployment-nya sangat konsisten:

PyTorch checkpoint
    -> ONNX or TFLite interchange graph
    -> representative calibration data
    -> vendor quantizer and graph compiler
    -> chip-specific binary or model package
    -> vendor runtime on the target
    -> application preprocessing, decode, NMS and rendering

ONNX secara eksplisit mengizinkan runtime, generator kode, dan implementasi perangkat keras, tetapi berkas ONNX hanya menjadi titik serah. Itu tidak berarti setiap operator ONNX dapat diturunkan ke setiap akselerator. Bentuk input statis, batasan operator yang didukung, aturan kuantisasi, dan fallback host menentukan apa yang benar-benar berjalan pada NPU.

Karena itu, stack perangkat lunak merupakan bagian dari chip. NPU yang secara nominal cepat dengan compiler yang aksesnya dibatasi atau rapuh dapat menjadi target deployment yang lebih buruk daripada perangkat lebih kecil dengan toolchain publik, model zoo, simulator, dan runtime stabil.

Arti "didukung" dalam panduan ini

Literatur vendor menggunakan kata dukungan dengan sangat longgar. Artikel ini membedakan empat tingkat bukti:

Pembedaan ini penting. "Mengimpor ONNX" tidak sama dengan "mendukung segmentasi YOLO11." Model mungkin terbaca, tetapi kemudian berjalan melalui CPU, dikompilasi dengan nilai numerik keluaran yang keliru, melampaui memori akselerator, atau kehilangan akurasi selama kuantisasi.

Perusahaan dan platform NPU secara ringkas

Tabel sengaja mencampur SoC, akselerator diskret, sensor pintar, serta target GPU/FPGA yang berdekatan. Semuanya bersaing untuk keputusan deployment yang sama meskipun vendor memakai nama seperti NPU, AIPU, BPU, KPU, DLA, HTP, TPU, atau MLA.

SoC tertanam, sensor pintar, dan prosesor industri

| HiSilicon | SoC smart vision Hi3516CV610/DV500, Hi3519DV500, dan Hi3403V100 | ATC ke .om dengan runtime board NNN/SVP-NNN | Matriks HiSpark khusus target, terutama untuk Hi3403 dan Hi3591P, mencantumkan YOLOv3 sampai YOLO11, pose, segmentasi, OBB, OCR, dan entri kedalaman; ini bukan validasi untuk setiap SoC pada baris ini | Aktif dan berbeda dari Ascend; model repositori berlabel hanya untuk penggunaan nonkomersial |

Akselerator dan modul edge khusus

Platform berdekatan yang dibandingkan developer dengan NPU

Amlogic: dua generasi NPU, bukan satu

Amlogic perlu dijelaskan lebih mendalam karena informasi daring kerap mencampur produk yang tidak kompatibel. Perusahaan ini memiliki jalur lama berbasis VeriSilicon dan jalur ADLA proprietary yang lebih baru. Keduanya tidak menggunakan compiler, artefak, atau runtime yang sama.

Datasheet A311D menyebut NPU INT8 asli sebesar 5-TOPS. Halaman aplikasi Khadas VIM3 dan ikhtisar NPU lama mendokumentasikan DenseNet CTC, MTCNN, RetinaFace, YOLOFace, YOLOv2, YOLOv3, YOLOv3-tiny, YOLOv4, YOLOv7-tiny, dan YOLOv8n; ikhtisar itu juga mendokumentasikan YOLOv8n-pose dan menandai FaceNet sebagai deprecated. Contoh tersebut nyata, tetapi menjadi bukti untuk ekosistem Acuity .nb lama, bukan chip ADLA saat ini. A311D bukan A311D2, dan C305X bukan C305X2.

Ada jebakan perangkat keras kedua. Panduan revisi Khadas VIM4 menyatakan board V12/A311D2 revisi-B asli tidak memiliki NPU; NPU 3.2-TOPS yang diiklankan ada pada board V13A dan yang lebih baru dengan komponen A311D2-N0D revisi-C. Nama produk saja tidak cukup untuk memilih perangkat uji.

Stack AMLNN dan ADLA saat ini

AMLNN Toolkit saat ini mencakup konversi model, kuantisasi, kompilasi, inferensi, dan profiling. Panduan pengguna Mei 2026 yang dipatok versinya mendokumentasikan importer ONNX, TFLite floating-point atau terkuantisasi, TorchScript .pt, serta PyTorch 2 ExportedProgram/PT2. Jalur TensorFlow, Paddle, dan Keras ditandai sebagai rencana dalam panduan terperinci, walaupun ikhtisar repositori memakai uraian yang lebih luas. Compiler menghasilkan .adla. Deployment Python memakai AMLNN atau amlnn_edge_toolkit_lite; C/C++ native menautkan libnnsdk.so melalui nnsdk2.h. Pengembangan di host dapat memakai ADB dengan nnserver; runtime juga menargetkan Android, Buildroot, Yocto, dan lingkungan Debian/Armbian tertentu.

Identifier platform yang diterbitkan toolkit saat ini meliputi:

Kolom target ini bukan hiasan. Amlogic mengharuskan .adla, nnsdk2.h, libnnsdk.so, BSP, dan generasi compiler/runtime saling cocok. Quick Start yang dipatok versinya mensyaratkan driver ADLA 2.0.2 atau lebih baru, NNSDK 3.0.0 atau lebih baru, dan NNSDK2 1.0.0 atau lebih baru; panduan deployment Android memperjelas hubungan library, header, driver, dan BSP. Perlakukan .adla sebagai artefak build yang terikat ABI, bukan model portabel.

Kuantisasi juga bergantung pada generasi NPU. Target ADLA2 001 sampai 006 mendokumentasikan kompilasi W8A8 dan W8A16. Target ADLA3 007 dan 008 menambahkan kombinasi W4A8, W4A16, W8A8, W8A16, dan W16A16, dengan dukungan native INT4, FP16, dan BF16 dalam panduan operator. Amlogic merekomendasikan 200 sampai 500 sampel kalibrasi yang representatif. Opsi data acaknya secara eksplisit ditujukan untuk pengujian performa, bukan kuantisasi yang menjaga akurasi.

Cakupan model Amlogic yang terdokumentasi

Model playground Amlogic yang dipatok versinya merupakan bukti yang jauh lebih kuat daripada klaim dukungan ONNX umum. Matriks dukungan/contoh yang dipublikasikan menyebut A311D2, S905X5, A311Y3, C305X2, dan A123X. Diterimanya model oleh compiler pada ID target lain tidak membuktikan seluruh daftar model ini tervalidasi di sana.

Repositori yang sama menerbitkan angka runtime model W8A8 berikut. Ini pengukuran vendor untuk jaringan saraf di NPU, bukan pipeline kamera lengkap.

Catatannya sangat penting. Panduan operator Amlogic menempatkan NMS di perangkat lunak pada ADLA2 dan ADLA3. README mendefinisikan angka tersebut sebagai hasil runtime model NPU native dan mengecualikan prapemrosesan serta pascapemrosesan; apakah setiap transfer memori disertakan tidak diungkapkan. Baris akurasi YOLO memakai subset COCO 300 gambar, bukan seluruh set validasi, sedangkan baris klasifikasi memakai ImageNet val1000. Tabel juga melaporkan latensi YOLOv8n A311Y3 yang berbeda dari tabel FPS pada kondisi yang tidak dijelaskan rekonsiliasinya. Clock, mode daya, pendinginan, kondisi termal stabil, versi SDK/BSP yang tepat, dan durasi pengujian tidak diungkapkan. Gunakan angka untuk memahami satu stack vendor, bukan untuk memeringkatnya terhadap vendor lain.

Mengapa Amlogic menarik secara strategis

Amlogic memiliki empat ciri yang tidak biasa: jejak SoC tertanam yang luas, stack compiler yang baru dibuka untuk publik, matriks model saat ini yang banyak beririsan dengan ruang task LibreYOLO, dan integrasi kelas satu yang relatif sedikit di library pelatihan utama. Repositori saat ini juga masih baru: muncul ke publik pada akhir 2025 dan awal 2026, dengan manual substantif bertanggal Mei sampai Juli 2026. Ini menciptakan peluang first-mover yang nyata sekaligus risiko kestabilan API.

Integrasi yang rapi sebaiknya menggunakan ekspor ONNX deterministik LibreYOLO sebagai input compiler, mewajibkan gambar kalibrasi representatif untuk build presisi rendah, menghasilkan .adla beserta manifest metadata, lalu memuatnya melalui adapter NNSDK2. A311D lama harus memakai target .nb yang jelas berbeda karena menyajikan .nb dan .adla sebagai satu backend akan menyebabkan kegagalan kompatibilitas tersembunyi. Repositori Amlogic menggunakan lisensi top-level Apache-2.0, tetapi hak redistribusi wheel, shared library, nnserver, dan biner Android AAR yang disertakan perlu dikonfirmasi langsung sebelum dicerminkan oleh LibreYOLO.

Ekosistem deployment publik terkuat

Perusahaan berikut saat ini menawarkan kombinasi paling jelas antara perangkat keras yang bisa diperoleh, materi teknis publik, dan bukti model bernama. Itu tidak berarti performanya selalu lebih cepat. Klaim kompatibilitasnya lebih mudah dievaluasi sebelum membeli perangkat keras.

Hailo

Hailo menjadi contoh acuan ekosistem akselerator vision khusus. Model diurai menjadi Hailo Archive, dioptimalkan dan dikuantisasi memakai gambar representatif, lalu dikompilasi menjadi berkas Hailo Executable Format (.hef). Aplikasi memuat HEF itu melalui HailoRT.

Hailo Model Zoo berisi resep, model pretrained, konfigurasi pascapemrosesan, dan data performa untuk deteksi, segmentasi, klasifikasi, pose, serta task lain. Cakupan YOLO-nya meliputi YOLOv3/v4/v5/v6/v7/v8/v9/v10/11/12 dan YOLO26 bersama YOLOX, DAMO-YOLO, SSD, dan EfficientDet. Tabel deteksi objek Hailo-8 yang dipatok versi merupakan sumber kompatibilitas lebih baik daripada halaman produk umum, sedangkan aplikasi mandiri mendokumentasikan pipeline YOLO yang dapat di-deploy.

Ada batas generasi versi yang penting. Hailo-8 dan Hailo-8L menggunakan Model Zoo 2.x, Dataflow Compiler 3.x, dan HailoRT 4.x yang lebih lama, sementara Hailo-10 dan Hailo-15 memakai generasi 5.x saat ini. Resep, perilaku parser, dan HEF tidak dapat dipertukarkan hanya karena semua perangkat memakai nama Hailo.

Hailo-15 juga memiliki lapisan aplikasi berbeda. Perangkat itu menggunakan Vision Processor Software Package dan Hailo Media Library, bukan jalur host bergaya TAPPAS untuk Hailo-8/10H. Repositori referensi publik hailo-camera-apps diarsipkan pada 3 Mei 2026, sedangkan hailo-apps-core tetap menjadi framework aplikasi publik terpisah. Pengarsipan repositori bukan bukti EOL produk, tetapi proyek Hailo-15 perlu mengonfirmasi paket aplikasi terkini di Developer Zone.

Panduan deployment Hailo LibreYOLO berhenti pada serah-terima ONNX statis karena compiler proprietary tidak dapat disertakan sebagai dependensi Python. Itulah batas yang jujur antara menghasilkan graf yang sesuai dan mengklaim HEF yang sudah diuji.

Rockchip

Rockchip memiliki salah satu jejak Linux tertanam terbesar untuk penghobi dan komersial, terutama lewat board RK3588, RK3576, dan RK356x. RKNN-Toolkit2 publik mengonversi dan mengkuantisasi model pada host Linux x86, lalu RKNN Runtime atau Toolkit-Lite menjalankan berkas .rknn hasilnya di board.

RKNN Model Zoo sangat jelas mengenai chip, keluarga model, dan presisi. Tabel saat ini mencantumkan jalur FP16 dan INT8 untuk YOLOv5/6/7/8/10/11, YOLOX, PP-YOLOE, YOLO-World, dan varian segmentasi YOLOv5/v8; YOLOv8 OBB dan YOLOv8 pose tercantum hanya untuk INT8. Zoo itu juga mencakup OCR, wajah, dan jaringan segmentasi lain.

LibreYOLO sudah memiliki eksporter RKNN langsung yang konservatif. Eksporter memvalidasi empat varian deteksi yang tepat pada RK3588, dapat membandingkan simulator compiler dengan ONNX Runtime, serta menolak keluarga yang belum tervalidasi alih-alih menyamakan build yang berhasil dengan prediksi yang benar. Klaim dukungan yang sempit ini menjadi pola berguna untuk setiap backend NPU mendatang.

Axelera AI

Axelera AI, yang sering salah dieja "Accelera", membuat AIPU Metis dan menjualnya dalam produk M.2, PCIe, dan multi-chip. Metis merupakan keluarga yang bisa dipesan publik; Europa dan Titania adalah produk portofolio yang diumumkan, sehingga status ketersediaannya tidak boleh dilebur menjadi satu. Voyager SDK tersedia publik di GitHub dan menangani pemilihan model, kompilasi, kuantisasi, eksekusi, serta pipeline aplikasi; dukungan pelanggan tetap perlu akun.

Voyager Model Zoo publik termasuk yang paling informatif di pasar. Zoo mencantumkan varian model, ukuran input, presisi, akurasi, dan performa terukur untuk YOLOv3, YOLOv5, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, YOLO26 n/s/m/l/x, YOLOX, YOLO-NAS, OBB, pose, dan segmentasi, beserta banyak model klasifikasi dan prediksi padat. Menerbitkan penurunan kuantisasi dan akurasi berdampingan dengan kecepatan lebih berguna daripada hanya mengumumkan angka TOPS puncak.

Penamaan artefak berubah menurut generasi API. Alur kompilasi Pipeline Builder alfa menghasilkan model .axm dan dapat mengemas pipeline portabel sebagai .axe. Dokumentasi pipeline klasik menjelaskan .axmodel beserta metadata model dan manifest. Integrasi harus mendeteksi generasi Voyager yang terpasang, bukan menetapkan satu ekstensi secara permanen.

Qualcomm

Qualcomm menawarkan jangkauan deployment yang sangat luas, tetapi istilah "NPU Qualcomm" menyembunyikan beberapa antarmuka. Developer menjumpai Hexagon HTP melalui QAIRT/QNN, alur SNPE yang lebih lama, layanan kompilasi Qualcomm AI Hub, LiteRT, atau execution provider QNN di ONNX Runtime, bergantung pada perangkat dan kelas produk.

Repositori Qualcomm AI Hub Models resmi menjadi bukti kuat di tingkat model. Repositori itu menerbitkan paket teroptimasi untuk deteksi/segmentasi/pose YOLOv3, YOLOv5, YOLOv6, YOLOv7, YOLOv8, YOLOv9, YOLOv10, YOLO11, YOLO26, YOLOX, YOLO-World, YOLOR, RF-DETR, serta banyak model klasifikasi, kedalaman, dan pose. AI Hub juga menyediakan profiling khusus perangkat, yang penting karena model yang dikompilasi untuk satu generasi HTP tidak otomatis portabel ke generasi lain.

Biaya integrasi utamanya adalah banyaknya kombinasi: Android dibanding Linux tertanam, komponen pesanan QCS dibanding Snapdragon konsumen, arsitektur HTP, versi QNN/QAIRT, dan skema kuantisasi semuanya berpengaruh. Halaman resmi Qualcomm saat ini berbeda pendapat tentang status Dragonwing IQ-9075: halaman produk menyebut Active dan EVK-nya tersedia untuk evaluasi, sedangkan Product Longevity Program masih menyebut IQ-9075 Sampling dan mencantumkan dukungan hingga 2038. Prefix SKU pemesanan adalah QCS9075; Qualcomm mengiklankan konfigurasi 50 dan 100 dense INT8 TOPS serta dukungan Ubuntu/Yocto. Status produksi perlu dikonfirmasi untuk SKU pesanan yang tepat, dan integrasi LibreYOLO sebaiknya mencatat SKU itu alih-alih membuat folder generik bernama "Qualcomm".

DEEPX

Akselerator DX-M1/DX-M1M DEEPX memakai DXNN SDK. DX-COM mengompilasi dan mengkuantisasi model, DX-RT menjalankannya, dan artefak deployment memakai format .dxnn. Perusahaan menerbitkan DX-AllSuite, contoh aplikasi di DX-APP, serta Model Zoo daring yang besar.

Katalog publik mencatat 354 entri dengan DX-COM 2.4.0 dan DX-RT 3.4.0 saat diperiksa pada 15 Agustus 2026. Cakupan terdokumentasinya mencakup YOLOv3 hingga YOLO11 dan YOLO26, YOLOX, SSD, EfficientDet, NanoDet, DAMO-YOLO, segmentasi YOLO, pose, dan bounding box berorientasi. DEEPX merupakan kandidat integrasi yang masuk akal karena batas compiler/runtime dan artefak deployment dinamai dengan jelas, sementara cakupan vision publiknya luas.

SoC industri adalah beberapa ekosistem, bukan satu

Vendor industri sering menawarkan siklus hidup produk lebih panjang serta integrasi kamera, keselamatan, dan real-time yang lebih baik dibanding SoC board maker. Stack AI-nya dapat lebih rumit karena satu vendor mungkin mengirim beberapa arsitektur NPU yang tidak berkaitan sekaligus.

Texas Instruments

Prosesor edge AI TI saat ini mencakup AM62A, AM67A, AM68A, AM69A, dan perangkat TDA4 terkait. Jalur perangkat lunaknya menggabungkan Processor SDK Linux, compiler/runtime TIDL, Edge AI TIDL Tools, dan Edge AI Model Zoo. TIDL dapat terintegrasi dengan ONNX Runtime, TensorFlow Lite, dan runtime aplikasi lain sambil meng-offload subgraf yang didukung.

TI menerbitkan lebih dari sekadar klaim impor framework: zoo berisi model hasil konversi dan metadata performa untuk deteksi objek, segmentasi, pose, klasifikasi, kedalaman, dan task lain. TI juga memperingatkan bahwa artefak model zoo merupakan titik awal pengembangan, bukan otomatis aset siap produksi. Catatan ini berharga dan sering tidak ada dalam perbandingan vendor.

TI juga mencantumkan TDA54-Q1 sebagai Preview, dengan hingga empat NPU C7 dan hingga 400 TOPS pada komponen itu; keluarga TDA5 yang lebih luas diiklankan hingga 1.200 TOPS. Itu klaim produk vendor untuk generasi baru, bukan izin untuk menganggap validasi model AM6xA/TDA4 TIDL berlaku di TDA54-Q1 sebelum TI menerbitkan matriks khusus target.

NXP

NXP memerlukan setidaknya empat deskripsi backend:

eIQ Model Zoo memuat aset atau resep YOLOv4-tiny, YOLOv8, NanoDet, CenterNet, FastestDet, SSD Lite, YOLACT, dan model lain; entri YOLOv5 hanya dokumentasi. Entri yang divalidasi untuk satu backend bukan bukti untuk keempatnya. Panduan ekspor YOLO NXP untuk platform i.MX menunjukkan persoalan konversi khusus target ini. NXP mengatakan eIQ Toolkit monolitik berhenti diperbarui setelah versi 1.17 pada Q3 2025; alur saat ini memakai paket mandiri seperti eIQ Neutron SDK.

NXP menyelesaikan akuisisi Kinara pada Oktober 2025. Lembar fakta Ara240 menyebut hingga 40 eTOPS yang diiklankan vendor dan 313 gambar per detik untuk YOLOv8n. NXP mencantumkan Ara SDK dan eIQ Toolkit di halaman produk, tetapi itu tidak membuktikan pertukaran artefak dengan jalur Neutron i.MX 95 yang terpisah. Modul M.2 16 GB aktif, sementara opsi USB masih praproduksi. NXP mendefinisikan "e" pada eTOPS sebagai "equivalent", bukan "effective"; ukuran itu bukan metrik dense-INT8 TOPS vendor lain dan tidak seharusnya dibandingkan langsung.

STMicroelectronics

Perangkat STM32N6x7, termasuk STM32N657 dan STM32N647, menghadirkan akselerator Neural-ART 600-GOPS ke produk kelas MCU; lini umum N6x5 tidak memiliki akselerator itu. STM32Cube AI Studio dan ST Edge AI Core menganalisis serta mengoptimalkan model yang diimpor, sementara STM32 AI Model Zoo Services menyediakan alur deployment, optimasi, benchmarking, dan contoh.

Ikhtisar deteksi objek saat ini mendokumentasikan Tiny YOLOv2, YOLOv5u, YOLOv8, YOLO11, YOLO26, dan ST-YOLOX, juga layanan klasifikasi, pose, dan segmentasi. Kelas performanya tidak sama dengan kartu PCIe 200-TOPS. Platform ini menarik karena input kamera, inferensi, dan kontrol dapat berjalan dalam batas daya dan memori tertanam yang ketat.

Renesas

Prosesor Renesas RZ/V mengintegrasikan akselerator DRP-AI. Perangkat lunaknya berkembang dari DRP-AI Translator dan DRP-AI TVM menuju RUHMI, yang ditenagai teknologi MERA dari EdgeCortix. Repositori RZ/V DRP-AI TVM terbuka dan daftar validasi RZ/V2H menyebut varian n/s/m YOLOv5, YOLOv8, YOLO11, dan YOLO26, YOLOX, jaringan pose dan segmentasi, serta model klasifikasi.

Renesas adalah target kredibel untuk robotika dan industri, tetapi board, generasi DRP-AI, versi translator, dan pascapemrosesan CPU yang tepat perlu dicatat agar hasil dapat direproduksi.

Sensor pintar dan prosesor yang berfokus pada kamera

Sony IMX500

IMX500 Sony bukan prosesor aplikasi biasa. Sensor ini menumpuk pengindraan gambar dan pemrosesan AI agar inferensi dapat terjadi di sensor, sehingga mengurangi jumlah data gambar yang keluar dari kamera. Raspberry Pi AI Camera membuat arsitektur itu mudah diakses.

Repositori model Raspberry Pi IMX500 resmi menerbitkan model YOLOv8n, YOLO11n, EfficientDet Lite0, NanoDet+, dan SSD MobileNetV2 FPN Lite terpaket. Dokumentasi AI Camera menjelaskan konversi, pengemasan, dan pascapemrosesan di sensor. Unit deployment-nya paket RPK, bukan berkas ONNX generik, dan memori sensor serta batasan operator menjadi batas desain utama. Halaman produk Raspberry Pi menyatakan kamera ini akan tetap diproduksi setidaknya sampai Januari 2028.

Ambarella

Prosesor CVflow Ambarella telah lama digunakan pada kamera, drone, dan vision otomotif. Keluarga produk saat ini mencakup CV72/CV75 untuk kamera, CV5/CV52 untuk sistem vision berperforma lebih tinggi, serta perangkat otomotif CV3-AD. Cooper Developer Platform dan alur kompilasi/runtime CVflow merupakan stack perangkat lunak yang disebut secara publik.

Model garden developer publik mencantumkan YOLOX, RTMDet, DeepLabV3+, TopFormer, OWL-ViT, dan model multimodal. Namun, dokumentasi compiler terperinci dan unduhan tetap ditujukan kepada mitra. Karena itu, integrasi Ambarella sebaiknya dimulai lewat hubungan dengan vendor atau OEM, bukan dengan menganggap paket pip publik tersedia.

Synaptics Astra

Synaptics memiliki tiga target terkait. Sistem Astra SL1600/SL1680 memakai toolkit SyNAP, yang mengonversi model sumber beserta deskripsi YAML menjadi paket model.synap. Perangkat SL2611/13/15/17/19 yang lebih baru memakai platform Torq, alur berbasis IREE/MLIR yang menghasilkan .vmfb. Seri SR100 adalah keluarga MCU terpisah berbasis Cortex-M55 dan Ethos-U55 dengan SDK tersendiri. Artefak dan API tersebut tidak saling dapat dipertukarkan.

Tutorial benchmark YOLO resmi sangat konkret: mengekspor YOLOv8 ke TFLite, melakukan kalibrasi UINT8 asimetris di SyNAP, mengompilasi untuk SL1680, lalu menjalankan synap_cli dan aplikasi deteksi objek. Tutorial itu membuktikan YOLOv8n/v8s pada SL1680 dan menjelaskan dukungan SyNAP hingga YOLO11. Panduan deteksi objek SL261x terpisah menjalankan YOLOv8 dari .vmfb Torq. Ini contoh resmi khusus target, bukan klaim bahwa semua graf YOLO didukung pada ketiga keluarga.

MediaTek Genio

MediaTek pantas mendapat entri penuh karena IoT AI Hub saat ini mengekspos matriks perangkat keras/perangkat lunak, paket model, dan tabel benchmark yang dulu sulit diaudit oleh survei pasar. Genio 360/360P/420/520/720 menggunakan NeuroPilot 8 dengan MDLA 5.3; Genio 510/700 menggunakan NP6 dengan MDLA 3.0; Genio 1200 menggunakan NP6 dengan MDLA 2.0. MediaTek menyatakan bahwa generasi NeuroPilot dan MDLA, set operator, compiler, dan runtime terikat versi sepanjang siklus hidup tiap SoC.

Jalur AI analitis berpusat pada TFLite:

PyTorch model
    -> NeuroPilot Converter and representative calibration
    -> quantized .tflite
    -> version-matched ncc-tflite compiler
    -> chip-generation-specific .dla
    -> Neuron Runtime on MDLA

Produk Genio yang lebih baru juga menyediakan delegasi LiteRT daring dan jalur CPU/NPU ONNX Runtime pada sistem operasi yang didukung. Mode itu berbeda dari .dla offline. Panduan arsitektur perangkat lunak dan matriks sumber daya menjelaskan pembedaan tersebut.

Tabel model analitis resmi menerbitkan entri benchmark YOLOv5s dan YOLOv8s serta panduan konversi untuk beberapa generasi MDLA. Tabel itu secara eksplisit tidak mendistribusikan artefak YOLO hasil konversi karena pembatasan AGPL-3.0. Pengukuran offline Quant8 640 x 640 mencakup 5.35 ms dan 8.04 ms pada Genio 720. Halaman model YOLOv8s menerbitkan tensor input/keluaran, waktu khusus backend, dan peringatan tentang operasi khusus MediaTek. Angka tersebut adalah benchmark vendor, bukan hasil kamera end-to-end.

Akses menjadi batas utama. Dokumentasi Yocto publik cukup terperinci, tetapi bundel converter/compiler NP8 all-in-one saat ini dan banyak materi Android dinyatakan sebagai sumber daya NDA atau pelanggan langsung. Akun developer biasa tidak memberikan akses yang sama dengan akun pelanggan MediaTek Online. Karena itu, LibreYOLO sebaiknya menganggap Genio terbukti secara teknis, tetapi integrasi compiler bring-your-own-model yang dapat direproduksi bergantung pada kemitraan.

Ekosistem edge AI yang berfokus pada Tiongkok

Beberapa platform vision berbiaya rendah yang paling mumpuni dan mudah diakses kurang terwakili dalam daftar pasar berbahasa Inggris.

D-Robotics dan platform BPU turunan Horizon

D-Robotics memelihara ekosistem board developer RDK berbasis akselerator BPU pada produk RDK X3, X5, Ultra, dan seri S100 yang lebih baru. Branch rdk_x5 saat ini dalam RDK Model Zoo mendokumentasikan YOLOv5/v5u, YOLOv8/9/10/11/12/13/26, YOLOE, YOLO-World, serta jalur deteksi, segmentasi, pose, klasifikasi, OCR, dan CLIP untuk RDK X5. X3 memakai branch terpisah, sedangkan delivery seri S saat ini ada di branch rdk_s pada zoo utama; repositori rdk_model_zoo_s yang lebih lama berisi demo historis. Jadi, daftar X5 modern bukan bukti bahwa setiap model divalidasi pada X3, Ultra, atau S100.

OpenExplorer/Algorithm Toolchain mengimpor ONNX atau Caffe untuk PTQ dan mendukung alur QAT berorientasi PyTorch. Deployment berbeda menurut platform: RDK X5 saat ini memakai .bin melalui hbm_runtime di atas libdnn, sedangkan alur utama rdk_s saat ini memakai .hbm melalui API hbm_runtime bernama sama di atas libhbucp; X3 mempertahankan branch dan antarmuka inferensi yang lebih lama. Materi lama rdk_model_zoo_s juga menjelaskan jalur historis .bin dan .hbm, sehingga artefak harus tetap dipasangkan dengan branch dan toolchain yang sesuai. Operator yang tidak didukung dapat beralih ke CPU. Contoh publiknya bagus, tetapi pemasangan versi RDK OS, firmware board, toolchain, dan biner model tetap menjadi bagian kontrak kompatibilitas.

AXERA

Keluarga AX650/AX630/AX620 AXERA dipakai di kamera AI ringkas dan board seperti lini MaixCAM dari Sipeed. Pulsar2 mengimpor ONNX, melakukan kalibrasi dan analisis presisi, lalu menghasilkan .axmodel; AXEngine menjalankan artefak tersebut.

Sampel AXERA resmi mencakup YOLOv5/6/7/8/9/10/11/13/26, YOLOX, dan YOLO-World, dengan dukungan task dan chip berbeda menurut platform. Pada target yang didukung, contoh YOLO26 saat ini mencakup deteksi, pose, segmentasi, dan OBB. Contoh konversi Pulsar2 menunjukkan pekerjaan sebenarnya: nama tensor yang tepat, pemotongan keluaran, transformasi layout, arsip kalibrasi, dan pengaturan perangkat keras target.

SOPHGO

TPU-MLIR SOPHGO termasuk stack compiler yang menarik untuk integrasi independen karena compiler itu sendiri open source. Compiler mengimpor ONNX, PyTorch, TFLite, dan Caffe, menurunkan serta mengkuantisasi graf, lalu menghasilkan .bmodel untuk target BM atau .cvimodel untuk perangkat keras CV18xx.

Proyek TPU-MLIR mendukung alur FP32, BF16, FP16, dan INT8 sesuai target. Koleksi demo SOPHON menyebut YOLOv3/4/5/7/8/9/10/11/12/26, YOLOX, PP-YOLOE, YOLO-World, varian OBB/segmentasi, SSD, CenterNet, RetinaFace, SAM/SAM2, dan OCR. Seperti biasa, demo pada BM1684X tidak memvalidasi artefak yang sama untuk BM1688 atau CV18xx.

Huawei Ascend

Lini inferensi edge Huawei mencakup silikon Ascend 310/310P/310B pada produk Atlas 200I dan 300I. CANN menyediakan compiler ATC, runtime AscendCL, dan kernel operator khusus chip; ATC mengubah ONNX dan representasi sumber lain menjadi model .om offline.

Dokumentasi Atlas 200I DK A2 saat ini serta sampel CANN menyediakan jalur .om YOLOv5 untuk Ascend 310B. Ascend ModelZoo yang lebih luas dan lama berisi YOLOv2/3/4/5, YOLOX, YOLOR, SSD, RetinaNet, Mask R-CNN, pose, dan model segmentasi, tetapi tidak boleh disajikan seolah tiap entri divalidasi ulang pada 310B. CANN, kernel, firmware, dan SoC harus cocok. .om untuk Ascend310P bukan artefak Ascend generik.

Cambricon

Akselerator MLU Cambricon memakai Neuware dan mesin inferensi MagicMind. Repositori MagicMind Cloud publik dipatok ke MagicMind 1.7 dan matriks MLU370-X4/S4; itu bukti kompatibilitas historis, bukan matriks SDK terkini atau validasi MLU270. Repositori itu mendokumentasikan jalur PyTorch, ONNX, Caffe, dan Paddle; dukungan framework TensorFlow dihapus pada 1.7 walaupun contoh TensorFlow historis masih ada. Portal developer seri 3 Cambricon saat ini mencantumkan rilis SDK keseluruhan yang lebih baru, sehingga repositori contoh publik dan stack komersial saat ini tidak boleh dianggap satu versi.

Repositori model cloud MagicMind resmi menerbitkan matriks MLU370-X4/S4 yang sangat langsung. Matriks itu menandai contoh YOLOv3, Tiny-YOLOv3, YOLOv4, YOLOv5, YOLOv7, YOLOv8, PP-YOLOE, SSD, RetinaFace, RetinaNet, Mask R-CNN, DeepLab, dan UNet, termasuk ketersediaan contoh C++ atau Python. Buktinya kuat; hambatan utamanya adalah akses SDK dan container melalui jalur Cambricon.

Canaan/Kendryte

Chip KPU K230/K230D Kendryte saat ini dan K210/K510 lama penting pada segmen board murah dan kamera pintar. Compiler nncase mengimpor ONNX atau TFLite, memakai data kalibrasi untuk konversi fixed-point, mensimulasikan hasil pada host, lalu menghasilkan .kmodel.

Panduan pengembangan nncase K230 resmi memandu kompilasi, simulasi, dan menjalankan YOLOv5s. Katalog demo AI terpisah mencakup artefak deteksi, segmentasi, dan pose YOLOv8n, sedangkan changelog CanMV saat ini menambahkan contoh klasifikasi, deteksi, segmentasi, OBB, dan pose YOLOv8/11/26 yang dioptimalkan. Hasil YOLOv5s pada datasheet merupakan benchmark yang benar-benar diterbitkan; versi compiler dan plug-in KPU biner harus cocok dengan SDK board.

Allwinner

V853 Allwinner menggabungkan perangkat media berorientasi kamera dengan NPU Vivante 1-TOPS. Panduan NPU berbahasa Inggris resmi menjelaskan impor Acuity/Pegasus, kuantisasi, verifikasi, dan deployment melalui viplite. Halaman model Allwinner dan panduan YOLOv5 menyebut YOLOv2/v3/v4/v4-tiny/v5/v5s, RetinaNet, MobileNet, ResNet, serta jaringan wajah/orang. Dokumentasi publiknya berguna, walaupun akses paket SDK mungkin perlu akun.

Platform Korea, Taiwan, dan Tiongkok yang kurang diperhatikan

Mobilint

Akselerator REGULUS dan ARIES dari Mobilint menggunakan qb SDK dan artefak .mxq. Model zoo publik mencantumkan deteksi YOLOv3/v5/v7/v8/v9/v10/11/12/26, serta varian segmentasi YOLO, pose, dan OBB. Halaman ARIES bahkan menerbitkan hasil khusus YOLO11s dan YOLO26m. Bukti integrasinya kuat, walaupun akses SDK/perangkat keras tetap komersial.

Sunplus

SP7350/C3V Sunplus memakai stack NPU turunan Vivante, tetapi paketnya berbeda dari Allwinner atau Amlogic lama. Alur publiknya menggabungkan konversi Acuity, lingkungan Docker NPU, runtime SNNF, dan keluaran .nb. Panduan YOLOv8 khusus resmi menjelaskan konversi serta deployment, bukan sekadar mengklaim dukungan framework. IP terkait tidak membuat .nb portabel ke SoC lain berbasis Vivante.

ESWIN Computing

Keluarga RISC-V ESWIN mencakup EIC7700/EIC7700X dan EIC7702/EIC7702X dual-die, dengan EIC7700 muncul pada board yang dikirim seperti Milk-V Megrez. ENNP berisi EsQuant, compiler EsAAC saat ini, pembuatan data acuan, simulasi, dan runtime ESSDK, dengan keluaran .model; materi ENNP lama memakai nama ennc-compile. Halaman EsAAC saat ini mendokumentasikan input ONNX, sehingga framework lain perlu diekspor atau dikonversi ke IR yang didukung. Ikhtisar ENNP dan tutorial YOLOv3 yang dihosting Milk-V menunjukkan jalur end-to-end publik, tetapi bukan matriks model/akurasi luas terkini.

Nuvoton M55M1

Nuvoton M55M1 adalah desain MCU Cortex-M55 plus Ethos-U55-256, bukan prosesor aplikasi Linux. NuEdgeWise/NuML dan Arm Vela menyiapkan model TFLite Micro terkuantisasi. Repositori NuEdgeWise publik menyebut YOLOv8-nano, YOLOX-nano, YOLO Fastest v1.1, SSD-MobileNet FPNLite, dan beberapa classifier. Contoh jaringan kecil ini merupakan bukti yang kredibel untuk kelas memori/daya perangkat, bukan untuk varian YOLO standar 640 piksel.

Rebellions dan FuriosaAI

Lini ATOM Rebellions memakai RBLN SDK dan artefak .rbln terkompilasi. Rilis dukungan resmi mencantumkan YOLOv3 tiny/full/SPP, YOLOv5 n hingga x, YOLOv6 n hingga l, varian YOLOv7, dan YOLOv8 n hingga x. Matriks dukungan kartu saat ini menandai ATOM CA02 dan ATOM+ CA12 sebagai EoL, sedangkan ATOM+ CA22 dan ATOM-Max CA25 berstatus Active. ATOM-Lite CA21 memiliki halaman produk, tetapi tidak ada dalam matriks SDK itu, sehingga status toolchain saat ini belum jelas. Dokumentasi publik, tetapi wheel compiler membutuhkan kredensial Rebellions Portal.

FuriosaAI harus dipisahkan menurut generasi. Warboy adalah akselerator vision yang lebih lama, dengan artefak INT8 .enf dan model zoo resmi berisi SSD, YOLOv5M/L, dan YOLOv7-w6-pose. RNGD memakai stack .fxb berbeda yang terutama ditujukan untuk beban kerja LLM/VLM. Peta jalan Furiosa saat ini mencatat dukungan vision YOLOv8m selesai pada Q4 2024, tetapi permukaan model dan performa publik terkini berpusat pada LLM/VLM dan tidak menampilkan matriks akurasi/performa YOLOv8m terperinci. Ini bukti generasi yang dirilis, bukan klaim kompatibilitas Warboy.

Realtek, Telechips, T-Head, dan SigmaStar

Keempat platform ini nyata, tetapi permukaan bring-your-own-model-nya lebih sempit, lebih lama, atau aksesnya terbatas:

Smart vision HiSilicon berbeda dari Huawei Ascend

SoC kamera Hi3516CV610/DV500, Hi3519DV500, dan Hi3403V100 dari HiSilicon mengekspos alur ATC-ke-.om melalui runtime NNN/SVP-NNN. Model zoo HiSpark resmi mencantumkan YOLOv3/4/5/6/7/8/9/10/11, segmentasi/pose YOLO11, OBB/World/segmentasi YOLOv8, OCR, kedalaman, dan TinySAM dalam matriks khusus target, terutama untuk Hi3403 dan Hi3591P. Itu tidak membuktikan setiap entri berjalan pada semua SoC smart vision di atas. Sebagian entri masih berupa rencana, sehingga contoh yang sudah dirilis dan dukungan yang direncanakan harus tetap dipisahkan. Repositori menyatakan model ModelZoo yang disediakan hanya untuk penggunaan nonkomersial. Istilah ATC/.om yang sama tidak membuktikan kompatibilitas artefak atau runtime dengan lini produk Ascend berbasis CANN.

Perusahaan akselerator baru dan khusus

MemryX

Modul MX3 MemryX menggunakan arsitektur dataflow dan dapat menggabungkan beberapa chip. Neural Compiler menerima model ONNX, TensorFlow Lite, Keras, dan TensorFlow, lalu menghasilkan paket DFP yang dipakai runtime akselerator. API runtime mendukung pipeline multi-model dan streaming.

Dokumentasi dan contoh MemryX mencakup prapemrosesan dan pascapemrosesan YOLO yang dioptimalkan untuk deteksi, segmentasi, dan pose. Catatan rilis SDK secara eksplisit menyebut dukungan YOLOv10, YOLO11, dan YOLO26. Materi publiknya bermanfaat secara teknis, walaupun tidak memiliki satu tabel model/akurasi/perangkat sederhana seperti milik Axelera.

Kneron

Produk KL520/KL530/KL630/KL720/KL730 Kneron mencakup akselerator USB dan tertanam berukuran kecil. Kneron PLUS mencakup runtime aplikasi, sedangkan Model Toolchain 0.33.1 saat ini mendokumentasikan konversi, kuantisasi, evaluasi, simulasi, dan kompilasi .nef untuk target tersebut. KL830 muncul di beberapa API runtime PLUS, tetapi tidak pada daftar target compiler saat ini; klaim kompilasi .nef generik tidak boleh dialihkan ke KL830 tanpa konfirmasi vendor.

Contoh YOLO resmi menunjukkan proses memakai Tiny-YOLOv3, sementara materi Kneron lain mencakup pelatihan dan deployment YOLOv5. Buktinya kredibel, tetapi lebih sempit daripada matriks YOLO modern Hailo, Axelera, Rockchip, atau DEEPX.

SiMa.ai

MLSoC SiMa.ai dan platform Modalix 50-TOPS produksi memakai lingkungan perangkat lunak Palette. ModelSDK, compiler MLA, dan ModelExecutor menangani impor, kuantisasi, kompilasi, profiling, serta eksekusi. Tool mendukung alur berorientasi INT8, INT16, dan BF16 bergantung pada beban kerja dan produk.

Catatan rilis perusahaan menyebut pipeline YOLOv7, deteksi/pose/segmentasi YOLOv8, YOLOX dan segmentasi YOLOX, DETR, Mask R-CNN, serta EfficientDet yang tervalidasi. Batasan saat ini tidak boleh disembunyikan: catatan Palette SDK 2.1 menyebut QAT tidak berfungsi akibat regresi kuantisasi Python/PT2E. Solusi terdokumentasi adalah membuat ONNX beranotasi di SDK 2.0 lalu mengompilasinya dengan 2.1. Akses dan pengadaan berorientasi enterprise.

Batas deployment-nya juga terdokumentasi: alur kompilasi ModelSDK menghasilkan .tar.gz terkompilasi dan dapat membuat ELF yang dapat dieksekusi, sedangkan MPK Tool mengemas .mpk yang dapat di-deploy. Keluaran ini terikat pada target MLSoC/Modalix dan rilis Palette.

EdgeCortix

SAKURA-II adalah akselerator 60-TOPS yang diiklankan untuk vision dan AI generatif, dikompilasi melalui framework perangkat lunak MERA. EdgeCortix juga memasok teknologi MERA untuk alur RUHMI Renesas yang lebih baru.

Materi produk SAKURA-II menetapkan perangkat keras dan compiler, sedangkan perangkat keras M.2/PCIe ditawarkan melalui permintaan uji coba atau pesanan. Tidak ditemukan matriks kompatibilitas YOLO publik terkini yang cukup presisi. Ketiadaan itu berguna sebagai informasi pembelian: minta validasi model sebelum membeli perangkat.

BrainChip

Akida BrainChip adalah prosesor domain-event neuromorfik, bukan NPU tensor padat konvensional. Lingkungan MetaTF terdiri dari paket Python yang dapat dipasang untuk pembuatan model, kuantisasi bit rendah, konversi, simulasi, dan eksekusi perangkat keras. BrainChip kini menjual koprosesor AKD1500 yang dikirim dalam bentuk M.2, bersama perangkat keras AKD1000 lama dan IP Akida 2.

Kartu model Akida 2 saat ini mencantumkan detektor YOLOv2 AkidaNet0.5, CenterNet, AkidaUNet, dan jaringan pengenalan wajah. Materi dukungan lain mencakup FOMO dan beban kerja berbasis event. Akida mendukung bobot dan aktivasi bit sangat rendah, tetapi deployment yang berhasil mungkin memerlukan konversi yang sadar arsitektur, bukan memperlakukannya sebagai target ONNX INT8 generik. Hasil model zoo AKD1000 atau Akida 2 tidak boleh diklaim untuk AKD1500 sampai laporan pemetaan/kecocokan secara eksplisit memvalidasinya.

Blaize

Blaize menjual produk Pathfinder dan Xplorer berbasis P1600, dengan Picasso SDK, NetDeploy, dan AI Studio sebagai jalur perangkat lunak. Halaman produk jelas menargetkan vision dan edge AI, tetapi matriks kompatibilitas model per model yang publik dan terkini tidak tersedia.

Karena itu, panduan ini mengklasifikasikan Blaize sebagai komersial dan terbatas aksesnya, bukan mengisi kekosongan dengan klaim komunitas. Laporan kompilasi dan akurasi dari vendor untuk model yang dituju sebaiknya menjadi prasyarat.

Vision TinyML dan endpoint

Arm Ethos-U dan Alif

Arm melisensikan IP NPU Ethos-U55, U65, dan U85 kepada perusahaan chip. Compiler Vela mengambil graf LiteRT/TFLite terkuantisasi dan menulis ulang subgraf yang didukung menjadi operasi khusus Ethos-U. Operasi yang tidak didukung dapat tetap berjalan di CPU, sehingga "aplikasi berjalan" dan "seluruh jaringan berjalan di NPU" adalah dua klaim berbeda.

Implementasi nyata mencakup Ethos-U55 pada Alif Ensemble E7, Ethos-U65 pada NXP i.MX 93, dan Ethos-U85 pada sistem yang lebih baru. E7 AI/ML AppKit Alif mendokumentasikan dua akselerator ML dan mendemonstrasikan alur TFLite-ke-Vela E7; Ensemble E8 menggabungkan satu Ethos-U85 dengan dua NPU Ethos-U55. Alif juga menerbitkan benchmark detektor wajah YOLO-Fastest INT8 tingkat keluarga pada 192 kali 192 dengan Cortex-M55 plus Ethos-U55, tetapi bukan matriks YOLO modern luas per target. Sistem yang terbatas memori ini cocok untuk jaringan klasifikasi dan deteksi kecil, bukan detektor YOLO sembarang 640 piksel hanya karena dapat direpresentasikan sebagai TFLite.

Infineon PSOC Edge, Himax WiseEye2, dan Analog Devices MAX7800x

Keluarga PSOC Edge E83 dan E84 dari Infineon memasangkan Cortex-M55 dengan Ethos-U55 dan menambahkan blok NNLite terpisah di sisi M33 berdaya rendah. Manual arsitektur E84 mendokumentasikan bobot 8-bit, aktivasi 8 atau 16-bit, dan alur Vela: operator yang didukung menjadi aliran perintah NPU, sementara pekerjaan yang tidak didukung tetap di CPU. DEEPCRAFT Model Converter menerima jalur TFLite, Keras, dan PyTorch, sementara materi arsitektur menyebut MobileNetV1/V2 sebagai kernel representatif, bukan benchmark target. E84 AI Kit mencakup kamera dan memakai ModusToolbox, tetapi materi publik belum menyediakan matriks kompatibilitas YOLO bernama. Ini platform vision yang dapat diprogram dengan bukti tingkat model yang berkembang, bukan target detektor umum tervalidasi.

HX6538 WiseEye2 Himax juga menggabungkan Cortex-M55 dan Ethos-U55 untuk vision selalu aktif. Kisah perangkat lunak publiknya sangat konkret untuk kelas daya ini: contoh Grove Vision AI Module V2 resmi mencakup deteksi objek YOLOv8n, pose, klasifikasi gender, deteksi YOLO11n, face mesh, dan PeopleNet. Jalur terpadu memakai TFLite Micro dan Vela, lalu beralih ke CMSIS-NN dan kernel referensi bila perlu. Model dan resolusinya sengaja kecil, bukan bukti bahwa graf YOLO konvensional seukuran server muat.

Analog Devices memakai pendekatan berbeda lewat akselerator CNN MAX78000/MAX78002. Tool ai8x-synthesis publik mengkuantisasi jaringan yang sudah dilatih dan menghasilkan kode C khusus target, bobot, serta konfigurasi akselerator, bukan paket runtime ONNX portabel. Bukti pihak pertama mencakup identifikasi wajah, deteksi QR TinierSSD di model zoo ADI, dan classifier gambar. Perangkat ini relevan untuk vision endpoint, tetapi tidak ditemukan matriks YOLO modern resmi saat ini.

GreenWaves GAP9

GAP9 menggabungkan komputasi RISC-V dengan neural engine NE16. NNTool mengimpor dan mengkuantisasi jaringan, sedangkan AutoTiler dan GAP SDK menghasilkan kode deployment. Menu jaringan saraf GAP9 publik memuat aplikasi MobileNet, EfficientNet, ResNet, MobileNet SSD, wajah, dan pengenalan. GreenWaves juga menerbitkan proyek deteksi orang YOLOX dengan hasil akurasi dan simulasi.

Ini bukti TinyML yang sangat transparan, tetapi SDK lengkap hanya tersedia bagi pelanggan berkualifikasi dan modelnya jauh lebih kecil daripada varian YOLO arus utama 640 x 640.

Lattice sensAI

Lattice sensAI merupakan alternatif FPGA untuk NPU tetap. sensAI Studio dan Neural Network Compiler memetakan graf yang didukung ke IP akselerator yang dapat dikonfigurasi untuk perangkat ECP5, iCE40 UltraPlus, CrossLink-NX, CertusPro-NX, Avant-E, dan Avant-X. Keluaran terikat pada FPGA yang dipilih, mode akselerator, layout memori, dan bitstream, bukan model runtime portabel.

Manual Neural Network Compiler saat ini memuat tabel topologi yang sangat langsung. Tabel mencantumkan YOLOv1 untuk ECP5, YOLOv5 dan YOLOv8 untuk mode CrossLink-NX dan CertusPro-NX optimized/advanced, serta YOLO11 hanya dengan IP Advanced mode. Tabel juga mencantumkan SSD, MobileNetV2-SSD, ResNet, ENet, SqueezeDet, dan jaringan vision lain, dengan sel FPGA yang tidak didukung ditampilkan. Advanced CNN Accelerator menargetkan Avant-E/Avant-X/CertusPro-NX dan merupakan IP komersial. Ini bukti dari tabel compiler, bukan janji bahwa satu bitstream mendukung semua topologi yang dicantumkan sekaligus.

Microchip VectorBlox

VectorBlox SDK 3.1 publik Microchip melakukan prapemrosesan dan mengompilasi jaringan TFLite INT8 terkuantisasi penuh untuk IP CoreVectorBlox yang dapat dikonfigurasi di FPGA PolarFire SoC. tflite_preprocess dan vnnx_compile menghasilkan aset deployment .vnnx, .hex, dan .ucomp; repositori juga mencakup simulator dan driver C sisi target. Graf TensorFlow, ONNX, dan OpenVINO upstream tetap harus melalui jalur persiapan TFLite/INT8 yang didokumentasikan.

Matriks tutorial saat ini mencakup YOLOv5n, deteksi/klasifikasi/OBB/pose/segmentasi YOLOv8, YOLOv9t, varian YOLO sparse/terkompresi, MobileNet, EfficientNet-Lite0, ResNet18, MiDaS, FFNet, dan QuickSRNet. Panduan pascapemrosesan C secara terpisah menyebut decoder deteksi, pose, dan OBB YOLOv2/3/4/5 serta Ultralytics. SDK 3.1 saat ini mendukung PolarFire SoC Video Kit dan secara eksplisit tidak mendukung PolarFire Video Kit non-SoC, sehingga demo board lama jangan disamakan dengan kontrak target terkini.

SDK dapat diunduh publik di bawah lisensi khusus Microchip, yang membatasi perangkat lunak dan turunannya untuk produk Microchip. Microchip menawarkan lisensi Libero Silver dan CoreVectorBlox gratis, tetapi harus diminta. Deployment tetap merupakan kontrak sistem FPGA: konfigurasi akselerator, bitstream, firmware, data jaringan hasil SDK, dan layout memori harus sesuai. Kompilasi VectorBlox yang berhasil tidak menjadikan model biner yang dapat disalin ke desain PolarFire sembarang.

Syntiant

NDP200 Syntiant menargetkan inferensi vision, audio, dan sensor selalu aktif dalam batas daya yang lebih rendah daripada SoC Linux biasa. Tabel perangkat keras saat ini menyebut NDP200 produksi massal dan NDP250 sampling. Brief produk NDP200 mendokumentasikan dukungan jaringan CNN, RNN, dan fully connected di bawah 1 mW; pengumuman NDP250 justru menyebut pengenalan gambar selalu aktif di bawah 30 mW. Istilah "sub-milliwatt" tidak boleh digeneralisasi ke kedua chip.

Materi publik tidak membuktikan kompatibilitas YOLO luas, sehingga produk perlu dievaluasi untuk classifier dan detektor selalu aktif kecil melalui penilaian model yang didukung vendor, bukan asumsi ekspor ONNX generik.

Google Coral: dua generasi yang tidak terkait

Produk Edge TPU lama memakai Edge TPU Compiler, libedgetpu, dan PyCoral dengan model TFLite INT8 penuh. Repositori utama Edge TPU dan PyCoral telah diarsipkan. Itu risiko pemeliharaan nyata, tetapi bukan pemberitahuan resmi EOL perangkat keras.

Google juga memelihara Coral NPU open source terpisah yang masih aktif: IP akselerator RISC-V untuk integrasi ke SoC berdaya rendah. Proyek publik saat ini mengekspos RTL, simulasi perangkat keras, toolchain, dan contoh ELF. Ini bukan penerus Edge TPU USB/M.2 yang bisa langsung menggantikan, dan tidak menerbitkan matriks deployment YOLO saat ini.

Jebakan GPU, NPU klien, dan komputasi adaptif yang berdekatan

NVIDIA, AMD, Intel, dan Apple sering muncul dalam pencarian NPU, tetapi tidak mengekspos satu kelas akselerator yang saling dapat dipertukarkan.

NVIDIA Jetson: Jetson Orin menggabungkan GPU CUDA dengan core DLA khusus. TensorRT dapat membangun engine terserialisasi untuk DLA, tetapi layer yang tidak didukung hanya berjalan di GPU bila fallback GPU diaktifkan secara eksplisit. Tabel YOLO DeepStream saat ini mencakup YOLOv4/v7/v8/v9/11, tetapi kebanyakan entri menargetkan GPU; entri ONNX DLA yang eksplisit adalah YOLOv8s INT8. Batasan DLA NVIDIA menjelaskan batas operatornya. Thor merupakan perbedaan lain: panduan migrasi DriveOS menyatakan core DLA dihapus dari Thor demi fleksibilitas penjadwalan GPU. Jadi, "berjalan di Jetson" tidak mengidentifikasi akselerator yang digunakan.

AMD Vitis AI: Generasi Kria/DPU lama mengompilasi graf .xmodel yang dijalankan melalui VART. Vitis AI 6.2 saat ini GA untuk dua jalur Versal AI Edge terpisah: Gen1 pada VEK280/VE2802 memakai ONNX, AMD Quark, dan alur snapshot/subgraf yang terikat target; Gen2 pada VEK385 memiliki kontrak kompilasi dan runtime sendiri. Gen1 menerbitkan contoh YOLOv5, YOLOv7, YOLOv8, dan YOLOX. Ryzen AI adalah stack NPU klien keempat yang terpisah. Jangan memindahkan artefak atau validasi di antara DPU lama, Versal Gen1, Versal Gen2, dan Ryzen AI hanya karena semuanya memakai nama Vitis atau AMD.

Intel OpenVINO: OpenVINO dapat menargetkan CPU, GPU, dan NPU Core Ultra melalui satu API. Dokumentasi plug-in NPU Intel mengidentifikasi generasi NPU yang didukung, sedangkan matriks model terverifikasi menampilkan kolom khusus perangkat. Notebook YOLO membuktikan resep aplikasi, bukan validasi NPU kecuali matriks menyatakannya. Operator, bentuk, presisi yang didukung, dan driver NPU terpasang tetap menentukan apakah seluruh graf berjalan di sana. OpenVINO IR (.xml plus .bin) adalah IR sumber yang dapat digunakan ulang; cache model terkompilasi khusus perangkat dan perangkat lunak.

Apple Core ML: coremltools mengonversi model menjadi .mlpackage, yang dikompilasi Xcode menjadi .mlmodelc. Core ML dapat menjadwalkan pekerjaan di CPU, GPU, dan Apple Neural Engine, tetapi sengaja mengabstraksi pembagian yang tepat. Hal itu menjadikan Apple platform deployment yang sangat baik dan kurang cocok untuk klaim seperti "seluruh graf YOLO berjalan di NPU" kecuali bukti profiling menetapkannya.

Perusahaan IP NPU di balik perusahaan chip

Sebagian perusahaan tidak menjual board atau akselerator terkemas. Mereka melisensikan desain NPU kepada vendor SoC. Mereka penting karena arsitektur dasar yang sama dapat muncul dengan beberapa merek chip, tetapi SDK dan artefak akhir masih dapat disesuaikan penerima lisensi.

Imagination menunjukkan mengapa label akses dan siklus hidup perlu dicantumkan bersama nama arsitektur. Program Open Access menawarkan tiga konfigurasi Series3NX yang telah dibuktikan pada silikon tanpa biaya lisensi IP di muka, tetapi hanya setelah evaluasi perusahaan dan dengan dukungan/pemeliharaan berbayar serta royalti produksi. Neural Compute SDK menyediakan tool kompilasi, optimasi, kuantisasi, dan runtime; kolaborasi Baidu PaddlePaddle resmi menyebut deteksi PP-YOLOE, klasifikasi EfficientNet, dan segmentasi HRNet. Contoh itu tidak memvalidasi setiap konfigurasi Series3NX atau Series4, dan halaman produk Series4 saat ini menyatakan produk tidak tersedia, sehingga Series4 perlu dianggap historis kecuali bagian penjualan mengonfirmasi sebaliknya.

Lapisan ini menjelaskan kemiripan keluarga yang terlihat. Lapisan ini tidak menciptakan portabilitas artefak. Dua SoC yang berisi IP Vivante atau Ethos terkait tetap dapat memiliki peta memori, driver, versi compiler, set operator, dan runtime vendor berbeda.

Yang benar-benar di-deploy: tabel keterikatan artefak

Berkas terakhir di pipeline compiler adalah titik berakhirnya portabilitas ONNX yang tampak. Nama dan ekstensi berubah, tetapi aturan praktisnya stabil: simpan model asli dan data kalibrasi karena artefak native biasanya tidak dapat dipindahkan ke generasi NPU lain atau dibangun ulang secara andal dengan rilis SDK lain.

Tabel ini bukan sekadar daftar ekstensi. Versi compiler, identifier target, driver, firmware, dan BSP merupakan bagian dari identitas model yang dapat direproduksi. Eksporter LibreYOLO mendatang sebaiknya menulisnya ke manifest yang dapat dibaca mesin di samping setiap artefak.

Akses tool dan sinyal siklus hidup

Ketersediaan perangkat keras dan akses compiler adalah dua hal terpisah. Board mungkin mudah dibeli, sementara compiler terkini memerlukan perjanjian pelanggan; SDK publik bisa menargetkan silikon yang sulit diperoleh. Berikut sinyal konkret dari pihak pertama, bukan peringkat umur universal.

Mengapa TOPS bukan panduan pembelian

TOPS puncak berguna dalam satu vendor dan arsitektur, tetapi perbandingan lintas vendor biasanya tidak valid kecuali semua hal berikut sama:

• Presisi numerik, termasuk INT8, INT4, FP16, atau mode campuran
• Apakah satu operasi multiply-accumulate dihitung sebagai satu atau dua operasi
• Aritmetika dense dibanding sparse terstruktur
• Resolusi input, ukuran batch, dan graf model
• Akurasi setelah kuantisasi
• Latensi NPU saja dibanding pipeline aplikasi lengkap
• Transfer memori dan fallback host
• Kondisi termal serta operasi berkelanjutan, bukan burst

Detektor adalah pipeline: akuisisi gambar, resize/letterbox, normalisasi, transfer perangkat, inferensi neural, decode, NMS, penskalaan koordinat, dan logika aplikasi. Vendor sering hanya menerbitkan bagian tengah, yaitu inferensi neural. MLPerf Inference Edge bernilai karena menetapkan skenario, target kualitas, dan aturan pengukuran tingkat sistem alih-alih membandingkan aritmetika pemasaran secara terpisah.

Untuk deployment YOLO, catatan benchmark minimum yang dapat dipercaya adalah:

exact checkpoint + checksum
source and compiled model format
compiler, runtime, driver and firmware versions
target board and clock/power mode
input resolution and batch
precision and calibration dataset
accuracy before and after compilation
warmup and sample count
preprocess, inference and postprocess latency
power measurement boundary

Tanpa kolom tersebut, dua angka FPS biasanya mengukur hal berbeda.

Cara memilih NPU untuk computer vision

Pilih dengan urutan ini, bukan berdasarkan angka terbesar di halaman produk.

1. Buktikan kompatibilitas graf. Kompilasi model hasil ekspor yang tepat, bukan checkpoint model zoo bernama mirip.
2. Ukur akurasi. Validasi artefak terkompilasi pada dataset task sebenarnya setelah kalibrasi dan kuantisasi.
3. Ukur end-to-end. Sertakan konversi input, transfer, decode, dan NMS.
4. Periksa akses perangkat lunak. Cari tahu apakah compiler publik, hanya tersedia setelah pendaftaran, atau hanya tersedia dengan perjanjian komersial.
5. Bekukan matriks versi. Catat compiler, runtime, driver, firmware, dan identifier target.
6. Periksa kondisi sistem operasi. Dukungan Android, Debian, Yocto, Buildroot, RTOS, dan Windows tidak saling menggantikan.
7. Periksa pasokan dan siklus hidup. Chip yang unggul secara teknis buruk untuk produksi bila modul, driver, atau dukungan jangka panjangnya tidak pasti.
8. Setelah itu bandingkan biaya, daya, dan performa. Pengukuran itu baru bermakna setelah model yang sama bekerja benar di kedua target.

Titik awal praktis menurut penggunaan

Tabel ini adalah daftar riset awal, bukan peringkat performa. Pengadaan, ketersediaan regional, dan model tepat dapat membalik urutannya.

Maknanya bagi LibreYOLO

Desain yang skalabel bukan puluhan eksporter yang tidak saling berkaitan. Gunakan satu kontrak pertukaran yang ketat beserta adapter compiler/runtime vendor kecil:

LibreYOLO model
    -> deterministic static ONNX
    -> VendorCompiler.compile(model, target, calibration, precision)
    -> native artifact + manifest
    -> VendorRuntime.load() / infer()
    -> shared task-specific decode and Results objects

Setiap artefak native sebaiknya memiliki manifest pendamping yang mencakup:

• Vendor, target chip, dan target board
• Versi compiler, runtime, driver, dan firmware
• Checksum checkpoint sumber dan ONNX
• Nama input, bentuk, layout, colorspace, normalisasi, dan tipe data
• Presisi kuantisasi, skala bila tersedia, dan hash data kalibrasi
• Nama tensor keluaran, bentuk, dan makna semantik
• Task deteksi, nama kelas, serta apakah decode/NMS berlangsung di chip atau host
• Paritas numerik dan hasil akurasi task yang tercatat

LibreYOLO telah menyediakan ekspor ONNX portabel, tool kuantisasi, ekspor RKNN langsung tetapi sengaja terbatas, dan alur Hailo dengan compiler eksternal yang dijelaskan secara jujur. Berdasarkan kriteria dalam panduan ini, Amlogic ADLA merupakan kandidat integrasi berikutnya yang kuat: toolkit-nya publik, cakupan model sangat beririsan dengan LibreYOLO, dan jalur A311D lama dapat dipisahkan secara eksplisit.

Prioritas setelah Amlogic sebaiknya ditentukan oleh perangkat keras pengguna dan kemampuan menjalankan validasi akurasi, bukan hanya ketersediaan compiler. DEEPX, Sony IMX500, D-Robotics, AXERA, SOPHGO, dan Qualcomm menarik secara teknis; TI, NXP, ST, dan Renesas menjadi sangat bernilai ketika mitra industri dapat menyediakan board dan akses CI jangka panjang.

Watchlist: silikon nyata tanpa kontrak integrasi publik

Menghapus seluruh perusahaan dari peta pasar dapat menyesatkan. Memasukkannya sebagai "didukung" bisa lebih buruk. Vendor berikut menjual, melakukan sampling, atau telah mengumumkan silikon terkait, tetapi bukti publik belum menetapkan compiler, artefak, dan jalur model bernama terkini yang dapat direproduksi dan layak untuk backend LibreYOLO.

Watchlist ini sengaja berbasis bukti. Vendor dapat berpindah ke tabel deployment dengan menerbitkan toolchain atau jalur evaluasi terkini, kontrak artefak khusus target, serta setidaknya satu model bernama dengan resep end-to-end.

Klaim yang sengaja tidak dibuat

Artikel ini tidak menyatakan setiap model bernama berfungsi dari setiap repositori upstream vendor. Model zoo vendor sering dimodifikasi, dipotong pada node keluaran berbeda, atau dipasangkan dengan pascapemrosesan khusus.

Artikel ini juga tidak mengubah pernyataan berikut menjadi klaim dukungan:

• Compiler mengimpor ONNX.
• Chip mengiklankan driver Android NNAPI.
• Distributor menyebut board "kompatibel dengan YOLO."
• Repositori komunitas menjalankan satu fork dari satu model.
• Model berhasil dikompilasi tanpa kesalahan.
• Vendor melaporkan FPS NPU saja tanpa hasil akurasi.

Akselerator ponsel Google Tensor dan banyak ASIC khusus OEM juga nyata, tetapi Google tidak mengekspos Tensor sebagai target compiler mandiri umum setara platform di atas. Keberadaan perusahaan, diagram blok NPU, atau akselerasi Android tidak cukup untuk mengarang klaim integrasi LibreYOLO.

Demikian pula, akselerator cloud seperti Google TPU, AWS Inferentia/Trainium, Microsoft Maia, dan kartu AI khusus pusat data berada di luar cakupan. Panduan ini membahas perangkat keras yang secara masuk akal dapat di-deploy developer computer vision di edge.

Lisensi model merupakan lapisan terpisah. Vendor chip yang menerbitkan resep konversi YOLO tidak memberikan hak memakai atau mendistribusikan bobot upstream, kode pelatihan, atau turunannya yang terkompilasi. Dukungan perangkat keras, lisensi SDK, dan lisensi model harus diperiksa masing-masing untuk produk yang direncanakan.

Metodologi riset dan koreksi

Untuk setiap perusahaan, riset mencari empat sumber utama:

1. Halaman produk atau datasheet terkini yang mengidentifikasi silikon.
2. Dokumentasi compiler dan runtime yang menjelaskan jalur deployment sebenarnya.
3. Model zoo, tabel kompatibilitas, atau tutorial end-to-end yang menyebut model vision.
4. Sinyal siklus hidup atau akses yang menunjukkan apakah developer benar-benar dapat memperoleh tool.

Organisasi GitHub pihak pertama dihitung sebagai sumber vendor. Dokumentasi vendor board diberi label sebagai bukti ekosistem bila perusahaan chip tidak menerbitkan materi yang sama. Klaim performa pihak ketiga dikecualikan dari tabel perbandingan.

Draf lengkap kemudian diaudit ulang melalui tahap terpisah untuk kelompok vendor dan tabel lintas bagian. Pemeriksaan itu memvalidasi ulang cakupan target, nama artefak, presisi, bukti model dibanding pascapemrosesan, status diumumkan dibanding sudah dikirim, label siklus hidup, penyebut benchmark, dan setiap jumlah entitas. Bila dua halaman pihak pertama bertentangan, panduan ini menampilkan pertentangan tersebut alih-alih diam-diam memilih nilai yang lebih nyaman.

Pasar ini berubah cepat. Jika Anda bekerja di salah satu perusahaan tersebut dan chip, SDK, daftar model, atau status aksesnya keliru, kirimkan URL dan versi dokumentasi publik yang tepat kepada LibreYOLO. Koreksi yang didukung bukti primer sebaiknya menggantikan teks ini; klaim pemasaran tanpa dokumentasi tidak.

FAQ

Ada berapa perusahaan NPU edge AI?

Tidak ada jumlah perusahaan yang berlaku universal karena vendor produk, pemberi lisensi IP, sensor pintar, GPU, dan ASIC otomotif privat saling tumpang tindih. Panduan non-ekshaustif ini mencatat 69 perusahaan dan ekosistem platform yang memiliki chip edge AI, platform akselerator, IP NPU berlisensi, atau silikon watchlist yang layak diperhatikan per Agustus 2026.

Apa itu NPU?

Neural processing unit adalah perangkat keras khusus untuk operasi jaringan saraf seperti konvolusi dan perkalian matriks. Istilah vendor mencakup NPU, AIPU, BPU, KPU, DLA, HTP, TPU, dan MLA, dan model hasil kompilasinya umumnya tidak portabel antarperusahaan.

Perusahaan NPU mana yang secara resmi mendukung model YOLO?

Amlogic, Hailo, Axelera AI, Rockchip, Qualcomm, MediaTek, DEEPX, D-Robotics, AXERA, SOPHGO, Huawei, Cambricon, Sony IMX500 melalui repositori AI Camera resmi Raspberry Pi, STMicroelectronics, Renesas, Lattice, Himax, Microchip, dan beberapa lainnya memiliki entri model zoo, tutorial, atau hasil validasi pihak pertama untuk setidaknya satu generasi YOLO. Generasi, task, target chip, dan versi SDK yang tepat tetap penting.

Bisakah model ONNX apa pun dijalankan di NPU apa pun?

Tidak. ONNX adalah format pertukaran, bukan jaminan kompatibilitas perangkat keras. Compiler NPU harus mendukung setiap operator, bentuk tensor, dan tipe data di dalam graf. Bentuk statis, pemotongan graf, operasi khusus, dan fallback CPU merupakan hal umum.

Apa NPU terbaik untuk YOLO?

Tidak ada pemenang universal. Hailo, Rockchip, Axelera AI, DEEPX, dan Amlogic memiliki cakupan YOLO terdokumentasi yang kuat, sedangkan jangkauan perangkat Qualcomm sangat luas. Pilih berdasarkan akurasi setelah kuantisasi, latensi seluruh pipeline, daya berkelanjutan, harga, ketersediaan, akses SDK, dan dukungan sistem operasi.

Mengapa angka TOPS NPU tidak bisa dibandingkan langsung?

Vendor dapat menghitung presisi, operasi sparse, operasi multiply-accumulate, dan asumsi utilisasi puncak yang berbeda. TOPS tidak mencakup lalu lintas memori, operator yang tidak didukung, prapemrosesan, pascapemrosesan, dan overhead host. Bandingkan model, presisi, resolusi, akurasi, dan seluruh pipeline yang sama.

Apa itu kalibrasi NPU?

Kalibrasi menjalankan gambar deployment yang representatif, biasanya tanpa label, melalui model agar compiler dapat memperkirakan rentang aktivasi untuk INT8 atau format presisi rendah lainnya. Gambar acak atau tidak representatif tetap dapat menghasilkan artefak terkompilasi, tetapi merusak akurasi task.

Apakah LibreYOLO mendukung NPU edge?

LibreYOLO mengekspor ONNX dan beberapa format runtime, memiliki jalur compiler RKNN langsung untuk model Rockchip tertentu, serta mendokumentasikan alur kompilasi Hailo eksternal. Setiap artefak native vendor lainnya tetap memerlukan SDK vendornya dan sebaiknya disebut kandidat integrasi sampai dikompilasi, divalidasi, dan dijalankan pada perangkat keras.