LibreYOLO na CVPR 2026: inferencja edge na Hailo-8L i Snapdragon

LibreYOLO pojawiło się na CVPR 2026.

CVPR jest powszechnie uznawana za najbardziej prestiżową konferencję poświęconą wizji komputerowej na świecie. W tym roku odbyła się w Denver, a zespół Jabra i IT University of Copenhagen poprowadził tam samouczek zatytułowany „Edge AI in Action: Mastering On-Device Inference”. Jako model przykładowy do przenoszenia detekcji obiektów na układy brzegowe wybrano LibreYOLOXs.

Co zbudowano

Samouczek pokazał pełny pipeline brzegowy, od początku do końca. Najpierw model LibreYOLOXs, następnie eksport do ONNX, a potem kompilacja tego pliku ONNX dla dwóch zupełnie różnych platform sprzętowych: akceleratora Hailo-8L i Qualcomm Snapdragon.

Czas rzeczywisty na Hailo-8L

Plik ONNX skompilowano do HEF za pomocą Hailo Dataflow Compiler, a następnie uruchomiono na Raspberry Pi 5 z Hailo-8L AI HAT.

Model działał z szybkością 19.0 ms na klatkę, czyli 52.6 FPS, na Raspberry Pi.

Czas rzeczywisty na Snapdragon

Po stronie Qualcomm model LibreYOLOXs poddano kwantyzacji INT8 i uruchomiono z użyciem stosu SNPE, QAIRT i AI Hub. Benchmark wykonano na QCS6490.

Uzyskano wynik 6.69 ms na HTP/DSP.

Podziękowania

Serdeczne podziękowania dla Sai Narsi Reddy Donthi Reddy, Fabricio Batista Narcizo, Elizabete Munzlingera i Shan Ahmed Shaffi za zaprezentowanie projektu.

• Samouczek i slajdy: Edge AI in Action: Mastering On-Device Inference
• Modele LibreYOLOXs po kwantyzacji dla Qualcomm: na Hugging Face

Wypróbuj

pip install libreyolo

from libreyolo import LibreYOLO

model = LibreYOLO("LibreYOLOXs.pt")
model.export(format="onnx")   # then compile for your edge target

LibreYOLO jest objęte licencją MIT, działa w systemach Linux, Mac i Windows oraz obsługuje GPU, Apple Silicon i zwykły CPU bez zmian w kodzie. Jedno API obejmuje YOLOX, RF-DETR, D-FINE, DEIM, YOLO-NAS, segmentację, estymację pozy, estymację głębi i inne zadania.

Dodaj gwiazdkę na GitHubie: github.com/LibreYOLO/libreyolo | Dokumentacja: libreyolo.com/docs