OV-DEIM
OV-DEIM adalah detector objek open-vocabulary bergaya DETR yang mencocokkan query decoder dengan embedding teks dari text tower MobileCLIP bawaan. LibreYOLO menyediakan port native sebagai family khusus prediksi dalam tingkat detector open-vocabulary.
- Task
- detection
- Ukuran
- s, m, l at 640 px
- Instalasi
pip install libreyolo- Tier dukungan
- Tier sejajar, sejak v. Permukaan produk terpisah dengan factory dan kontraknya sendiri.
- Lisensi
- Kode Apache-2.0, bobot CC BY-NC 4.0. Penggunaan komersial
Instalasi
OV-DEIM dimuat melalui tingkat detector open-vocabulary LibreYOLO yang
memerlukan extra openvocab:
pip install "libreyolo[openvocab]"Tidak seperti family lain dalam tingkat ini, OV-DEIM adalah port native
LibreYOLO, bukan wrapper transformers. Tidak ada kelas model transformers
untuknya, tetapi extra yang sama mencakup paket huggingface_hub,
safetensors, regex, dan ftfy yang diperlukan saat prediksi.
Prediksi
OV-DEIM bukan checkpoint yang dimuat LibreYOLO melalui LibreYOLO(). Model ini
dimuat melalui factory pendamping LibreOpenVocab, yang mengunduh snapshot
Hugging Face saat pertama kali digunakan dan menyimpannya dalam cache di bawah
weights/.
from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-s")model.set_classes(["person", "dog", "skateboard"]) result = model.predict(SAMPLE_IMAGE, conf=0.25)for box in result.boxes: print(box.cls, box.conf, box.xyxy)from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-l")model.set_classes(["traffic light", "bicycle"])first = model.predict(SAMPLE_IMAGE, conf=0.3) # Panggilan kedua ke set_classes() mengganti vocabulary sepenuhnya dan# membuat embedding ulang melalui text tower. Hasil kosong merupakan# hasil valid, bukan error.model.set_classes(["giraffe"])second = model.predict(SAMPLE_IMAGE, conf=0.5)print(second.names, len(second))set_classes() menetapkan vocabulary teks yang persisten. Panggil lagi untuk
mengganti daftar sepenuhnya atau lewati untuk mempertahankan label COCO-80
default. Hasil kosong merupakan hasil valid, bukan error. Setiap query decoder
dinilai berdasarkan cosine similarity terhadap embedding teks dari text tower
MobileCLIP-B(LT) bawaan. Embedding dihitung secara online untuk vocabulary apa
pun yang ditetapkan dan disimpan dalam cache sampai berubah, sehingga prompt
arbitrer bekerja tanpa berkas embedding yang telah dihitung sebelumnya.
OV-DEIM tidak memiliki ambang batas token teks. Hanya conf yang memfilter
deteksi, dan meneruskan text_threshold memunculkan error. Pencocokan memakai
pemilihan top-K satu-ke-satu, sehingga tidak ada non-maximum suppression yang
dijalankan. iou diterima untuk kompatibilitas API, tetapi mengeluarkan
peringatan dan tidak melakukan apa pun. imgsz dan augment=True langsung
ditolak. Model mengendalikan input letterbox tetap, sedangkan augmentasi waktu
pengujian tidak termasuk cakupan tingkat ini. predict() pada satu gambar
mengembalikan satu Results, bukan daftar. Teruskan direktori, daftar gambar,
atau stream=True untuk sumber video agar memperoleh beberapa hasil. Tidak ada
jalur CLI untuk family ini. libreyolo predict hanya memuat checkpoint .pt
melalui LibreYOLO(), sehingga family LibreOpenVocab dijalankan dari Python.
Lihat prediksi untuk jenis sumber dan streaming.
Setiap panggilan predict() juga menjalankan text tower MobileCLIP-B(LT) bawaan
untuk membuat embedding vocabulary saat ini. Lihat Lisensi untuk ketentuan
tambahan yang ditimbulkannya.
Varian
Ada tiga checkpoint, s, m, dan l. s adalah ukuran default tingkat ini
jika tidak ada ukuran yang diberikan. Tidak seperti family lain dalam tingkat
ini, OV-DEIM adalah port native, bukan wrapper transformers. LibreYOLO
menyertakan modul detector dengan lisensi Apache-2.0 yang sama seperti kode
upstream dan menggunakan kembali adapter backbone DINOv3 yang telah dibuat
untuk family DEIMv2. Backbone checkpoint l adalah hasil fine-tuning DINOv3-S
yang dilisensikan terpisah berdasarkan DINOv3 License milik Meta. Belum ada
angka akurasi atau latensi yang dipublikasikan untuk family ini.
Pelatihan, validasi dataset, dan ekspor berada di luar cakupan tingkat ini:
train(), val(), dan export() semuanya selalu memunculkan
NotImplementedError. Ini adalah wrapper khusus prediksi untuk checkpoint yang
telah dipublikasikan.
Checkpoint
Semua berkas bobot yang dipublikasikan untuk family ini.
| Berkas | Input (piksel) | Lisensi bobot |
|---|---|---|
| Detection | ||
| LibreOVDEIMs.pt | 640 | cc-by-nc-4.0 |
| LibreOVDEIMm.pt | 640 | cc-by-nc-4.0 |
| LibreOVDEIMl.pt | 640 | cc-by-nc-4.0 |
Setiap berkas di atas saat ini tersedia di organisasi LibreYOLO dan diunduh saat pertama kali digunakan.
Lisensi
Periksa lisensi di repositori Hugging Face untuk bobot tertentu yang diunduh. Setiap checkpoint di organisasi LibreYOLO memiliki lisensi, dan lisensinya tidak selalu sama dalam satu family. Repositori tersebut adalah sumber resmi. Ringkasan di bawah menjelaskan ketentuan yang berlaku saat halaman ini terakhir diverifikasi.
Ini adalah deskripsi lisensi yang terlibat, bukan nasihat hukum. Jika jawabannya penting secara komersial, baca sendiri lisensinya dan mintalah nasihat dari penasihat hukum Anda.
- Karya asli
- OV-DEIM, Leilei Wang et al.
- Lisensi upstream
- CC BY-NC 4.0
- Sumber upstream
- github.com/wleilei/OV-DEIM
- Kode LibreYOLO
- MIT
- Bobot
- CC BY-NC 4.0, dipublikasikan ulang di huggingface.co/LibreYOLO
- Interpretasi
- OV-DEIM's code is Apache-2.0; LibreYOLO's port keeps that license and preserves the original RT-DETR and DEIMv2 attribution headers. The published S, M and L checkpoints carry a separate CC BY-NC 4.0 license: redistribution and format conversion are permitted with attribution, but only for non-commercial use, confirmed directly by the upstream author. Every prediction also runs a bundled MobileCLIP-B(LT) text tower, loaded unchanged from Apple's own release, to embed the vocabulary online; those weights carry the Apple Machine Learning Research Model license, which permits redistribution with the license text, an attribution notice and a record of modifications, but restricts use to research, a stricter term than CC BY-NC 4.0 that applies to every call this family makes. The `l` checkpoint's DINOv3-S backbone fine-tune is separately subject to Meta's DINOv3 License.
OV-DEIM menambahkan tiga lisensi upstream pada setiap panggilan prediksi: bobot
detector di bawah CC BY-NC 4.0 milik OV-DEIM, text tower online di bawah Apple
Machine Learning Research Model license (hanya untuk penelitian), dan untuk
checkpoint l, hasil fine-tuning backbone DINOv3-S di bawah DINOv3 License
milik Meta. Ketiga teks lisensi disertakan dalam repository bobot LibreYOLO.
Sitasi
@misc{wang2026ovdeim,
title={OV-DEIM: Real-time DETR-Style Open-Vocabulary Object Detection with GridSynthetic Augmentation},
author={Leilei Wang and Longfei Liu and Xi Shen and Xuanlong Yu and Ying Tiffany He and Fei Richard Yu and Yingyi Chen},
year={2026},
eprint={2603.07022},
archivePrefix={arXiv},
primaryClass={cs.CV},
url={https://arxiv.org/abs/2603.07022},
}Disalin dari blok sitasi penulis di github.com/wleilei/OV-DEIM#4-citation.