OV-DEIM

OV-DEIM adalah detector objek open-vocabulary bergaya DETR yang mencocokkan query decoder dengan embedding teks dari text tower MobileCLIP bawaan. LibreYOLO menyediakan port native sebagai family khusus prediksi dalam tingkat detector open-vocabulary.

Task
detection
Ukuran
s, m, l at 640 px
Instalasi
pip install libreyolo
Tier dukungan
Tier sejajar, sejak v. Permukaan produk terpisah dengan factory dan kontraknya sendiri.
Proyek upstream
OV-DEIM oleh Leilei Wang et al., CC BY-NC 4.0. Makalah, sumber
Lisensi
Kode Apache-2.0, bobot CC BY-NC 4.0. Penggunaan komersial

Instalasi

OV-DEIM dimuat melalui tingkat detector open-vocabulary LibreYOLO yang memerlukan extra openvocab:

bash
pip install "libreyolo[openvocab]"

Tidak seperti family lain dalam tingkat ini, OV-DEIM adalah port native LibreYOLO, bukan wrapper transformers. Tidak ada kelas model transformers untuknya, tetapi extra yang sama mencakup paket huggingface_hub, safetensors, regex, dan ftfy yang diperlukan saat prediksi.

Prediksi

OV-DEIM bukan checkpoint yang dimuat LibreYOLO melalui LibreYOLO(). Model ini dimuat melalui factory pendamping LibreOpenVocab, yang mengunduh snapshot Hugging Face saat pertama kali digunakan dan menyimpannya dalam cache di bawah weights/.

Python
from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-s")model.set_classes(["person", "dog", "skateboard"]) result = model.predict(SAMPLE_IMAGE, conf=0.25)for box in result.boxes:    print(box.cls, box.conf, box.xyxy)
Ganti vocabulary
from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-l")model.set_classes(["traffic light", "bicycle"])first = model.predict(SAMPLE_IMAGE, conf=0.3) # Panggilan kedua ke set_classes() mengganti vocabulary sepenuhnya dan# membuat embedding ulang melalui text tower. Hasil kosong merupakan# hasil valid, bukan error.model.set_classes(["giraffe"])second = model.predict(SAMPLE_IMAGE, conf=0.5)print(second.names, len(second))

set_classes() menetapkan vocabulary teks yang persisten. Panggil lagi untuk mengganti daftar sepenuhnya atau lewati untuk mempertahankan label COCO-80 default. Hasil kosong merupakan hasil valid, bukan error. Setiap query decoder dinilai berdasarkan cosine similarity terhadap embedding teks dari text tower MobileCLIP-B(LT) bawaan. Embedding dihitung secara online untuk vocabulary apa pun yang ditetapkan dan disimpan dalam cache sampai berubah, sehingga prompt arbitrer bekerja tanpa berkas embedding yang telah dihitung sebelumnya.

OV-DEIM tidak memiliki ambang batas token teks. Hanya conf yang memfilter deteksi, dan meneruskan text_threshold memunculkan error. Pencocokan memakai pemilihan top-K satu-ke-satu, sehingga tidak ada non-maximum suppression yang dijalankan. iou diterima untuk kompatibilitas API, tetapi mengeluarkan peringatan dan tidak melakukan apa pun. imgsz dan augment=True langsung ditolak. Model mengendalikan input letterbox tetap, sedangkan augmentasi waktu pengujian tidak termasuk cakupan tingkat ini. predict() pada satu gambar mengembalikan satu Results, bukan daftar. Teruskan direktori, daftar gambar, atau stream=True untuk sumber video agar memperoleh beberapa hasil. Tidak ada jalur CLI untuk family ini. libreyolo predict hanya memuat checkpoint .pt melalui LibreYOLO(), sehingga family LibreOpenVocab dijalankan dari Python. Lihat prediksi untuk jenis sumber dan streaming.

Setiap panggilan predict() juga menjalankan text tower MobileCLIP-B(LT) bawaan untuk membuat embedding vocabulary saat ini. Lihat Lisensi untuk ketentuan tambahan yang ditimbulkannya.

Varian

Ada tiga checkpoint, s, m, dan l. s adalah ukuran default tingkat ini jika tidak ada ukuran yang diberikan. Tidak seperti family lain dalam tingkat ini, OV-DEIM adalah port native, bukan wrapper transformers. LibreYOLO menyertakan modul detector dengan lisensi Apache-2.0 yang sama seperti kode upstream dan menggunakan kembali adapter backbone DINOv3 yang telah dibuat untuk family DEIMv2. Backbone checkpoint l adalah hasil fine-tuning DINOv3-S yang dilisensikan terpisah berdasarkan DINOv3 License milik Meta. Belum ada angka akurasi atau latensi yang dipublikasikan untuk family ini.

Pelatihan, validasi dataset, dan ekspor berada di luar cakupan tingkat ini: train(), val(), dan export() semuanya selalu memunculkan NotImplementedError. Ini adalah wrapper khusus prediksi untuk checkpoint yang telah dipublikasikan.

Checkpoint

Semua berkas bobot yang dipublikasikan untuk family ini.

BerkasInput (piksel)Lisensi bobot
Detection
LibreOVDEIMs.pt640cc-by-nc-4.0
LibreOVDEIMm.pt640cc-by-nc-4.0
LibreOVDEIMl.pt640cc-by-nc-4.0

Setiap berkas di atas saat ini tersedia di organisasi LibreYOLO dan diunduh saat pertama kali digunakan.

Lisensi

Periksa lisensi di repositori Hugging Face untuk bobot tertentu yang diunduh. Setiap checkpoint di organisasi LibreYOLO memiliki lisensi, dan lisensinya tidak selalu sama dalam satu family. Repositori tersebut adalah sumber resmi. Ringkasan di bawah menjelaskan ketentuan yang berlaku saat halaman ini terakhir diverifikasi.

Ini adalah deskripsi lisensi yang terlibat, bukan nasihat hukum. Jika jawabannya penting secara komersial, baca sendiri lisensinya dan mintalah nasihat dari penasihat hukum Anda.

Karya asli
OV-DEIM, Leilei Wang et al.
Lisensi upstream
CC BY-NC 4.0
Kode LibreYOLO
MIT
Bobot
CC BY-NC 4.0, dipublikasikan ulang di huggingface.co/LibreYOLO
Interpretasi
OV-DEIM's code is Apache-2.0; LibreYOLO's port keeps that license and preserves the original RT-DETR and DEIMv2 attribution headers. The published S, M and L checkpoints carry a separate CC BY-NC 4.0 license: redistribution and format conversion are permitted with attribution, but only for non-commercial use, confirmed directly by the upstream author. Every prediction also runs a bundled MobileCLIP-B(LT) text tower, loaded unchanged from Apple's own release, to embed the vocabulary online; those weights carry the Apple Machine Learning Research Model license, which permits redistribution with the license text, an attribution notice and a record of modifications, but restricts use to research, a stricter term than CC BY-NC 4.0 that applies to every call this family makes. The `l` checkpoint's DINOv3-S backbone fine-tune is separately subject to Meta's DINOv3 License.

OV-DEIM menambahkan tiga lisensi upstream pada setiap panggilan prediksi: bobot detector di bawah CC BY-NC 4.0 milik OV-DEIM, text tower online di bawah Apple Machine Learning Research Model license (hanya untuk penelitian), dan untuk checkpoint l, hasil fine-tuning backbone DINOv3-S di bawah DINOv3 License milik Meta. Ketiga teks lisensi disertakan dalam repository bobot LibreYOLO.

Sitasi

@misc{wang2026ovdeim,
      title={OV-DEIM: Real-time DETR-Style Open-Vocabulary Object Detection with GridSynthetic Augmentation}, 
      author={Leilei Wang and Longfei Liu and Xi Shen and Xuanlong Yu and Ying Tiffany He and Fei Richard Yu and Yingyi Chen},
      year={2026},
      eprint={2603.07022},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2603.07022}, 
}

Disalin dari blok sitasi penulis di github.com/wleilei/OV-DEIM#4-citation.

Diverifikasi dengan LibreYOLO v1.5.0. Tabel dukungan, checkpoint, dan angka benchmark di halaman ini dihasilkan dari library yang telah dirilis dan bobot yang dipublikasikan, bukan ditulis manual.