OV-DEIM

OV-DEIM є детектором об'єктів із відкритим словником у стилі DETR, який зіставляє запити декодера з текстовими ембедингами комплектної текстової вежі MobileCLIP. LibreYOLO нативно переносить його як сімейство лише для передбачення на рівні детекторів із відкритим словником.

Задачі
detection
Розміри
s, m, l at 640 px
Встановлення
pip install libreyolo
Рівень підтримки
Суміжний рівень, починаючи з v. Окремий інтерфейс продукту з власною фабрикою та контрактом.
Першоджерело
OV-DEIM, автори: Leilei Wang et al., ліцензія CC BY-NC 4.0. Стаття, джерело
Ліцензії
Код: Apache-2.0, ваги: CC BY-NC 4.0. Комерційне використання

Встановлення

OV-DEIM завантажується через рівень детекторів LibreYOLO з відкритим словником, для якого потрібен додатковий набір залежностей openvocab:

bash
pip install "libreyolo[openvocab]"

На відміну від решти цього рівня, OV-DEIM є нативним портом LibreYOLO, а не обгорткою transformers: для нього не існує класу моделі transformers. Проте той самий додатковий набір охоплює пакети huggingface_hub, safetensors, regex і ftfy, потрібні під час передбачення.

Передбачення

OV-DEIM не є контрольною точкою, яку LibreYOLO завантажує через LibreYOLO(). Вона завантажується через споріднену фабрику LibreOpenVocab, яка під час першого використання отримує знімок із Hugging Face і кешує його в weights/.

Python
from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-s")model.set_classes(["person", "dog", "skateboard"]) result = model.predict(SAMPLE_IMAGE, conf=0.25)for box in result.boxes:    print(box.cls, box.conf, box.xyxy)
Заміна словника
from libreyolo import LibreOpenVocab, SAMPLE_IMAGE model = LibreOpenVocab("ov-deim-l")model.set_classes(["traffic light", "bicycle"])first = model.predict(SAMPLE_IMAGE, conf=0.3) # Другий виклик set_classes() повністю замінює словник і повторно створює# його ембединги через текстову вежу; порожній результат є допустимим,# а не помилковим.model.set_classes(["giraffe"])second = model.predict(SAMPLE_IMAGE, conf=0.5)print(second.names, len(second))

set_classes() задає текстовий словник, який зберігається для наступних викликів. Викличте метод знову, щоб повністю замінити список, або не викликайте його, щоб залишити типові мітки COCO-80. Порожній результат є допустимим і не вважається помилкою. Кожен запит декодера оцінюється за косинусною подібністю до текстових ембедингів комплектної текстової вежі MobileCLIP-B(LT). Вони обчислюються під час роботи для поточного словника й кешуються до його зміни, тому довільні запити працюють без попередньо обчисленого файлу ембедингів.

OV-DEIM не має порога для текстових токенів: виявлення фільтрує лише conf, а передавання text_threshold спричиняє помилку. Зіставлення виконується взаємно однозначним вибором top-K, тому немаксимальне придушення тут не запускається, а iou приймається для сумісності API, але видає попередження й нічого не робить. imgsz та augment=True одразу відхиляються: модель керує фіксованим входом із letterbox, а аугментація під час тестування не належить до можливостей цього рівня. predict() для одного зображення повертає один об'єкт Results, а не список. Передайте каталог, список зображень або stream=True для джерела відео, щоб отримати кілька результатів. Для цього сімейства немає шляху через CLI: libreyolo predict завантажує лише контрольні точки .pt через LibreYOLO(), тому сімейства LibreOpenVocab запускаються з Python. Типи джерел і потокове передбачення описано в розділі передбачення.

Кожен виклик predict() також запускає комплектну текстову вежу MobileCLIP-B(LT), щоб створити ембединги поточного словника. Додані нею умови пояснено в розділі «Ліцензування».

Варіанти

Доступні три контрольні точки: s, m і l. Якщо розмір не вказано, типовим для цього рівня є s. На відміну від решти рівня, OV-DEIM є нативним портом, а не обгорткою transformers: LibreYOLO включає модулі детектора під тією самою ліцензією Apache-2.0, що й початковий код, і повторно використовує адаптер бекбона DINOv3, уже створений для сімейства DEIMv2. Бекбон контрольної точки l є донавченою DINOv3-S і має окрему DINOv3 License від Meta. Показники правильності та затримки для цього сімейства ще не опубліковано.

Навчання, валідація на датасеті та експорт не належать до можливостей цього рівня: train(), val() і export() завжди спричиняють NotImplementedError. Це обгортка опублікованої контрольної точки лише для передбачення.

Контрольні точки

Усі опубліковані файли ваг цього сімейства.

ФайлВхід (пікс.)Ліцензія ваг
Detection
LibreOVDEIMs.pt640cc-by-nc-4.0
LibreOVDEIMm.pt640cc-by-nc-4.0
LibreOVDEIMl.pt640cc-by-nc-4.0

Кожен наведений вище файл уже доступний у організації LibreYOLO і завантажується під час першого використання.

Ліцензування

Перевіряйте ліцензію в репозиторії Hugging Face конкретних ваг, які завантажуєте. Кожна контрольна точка в організації LibreYOLO має ліцензію, і вона не завжди однакова для всього сімейства. Цей репозиторій є авторитетним джерелом, а наведене нижче резюме описує умови на момент останньої перевірки сторінки.

Це опис відповідних ліцензій, а не юридична консультація. Якщо відповідь має комерційне значення, самостійно прочитайте ліцензії та зверніться по юридичну консультацію.

Оригінальна робота
OV-DEIM, Leilei Wang et al.
Ліцензія першоджерела
CC BY-NC 4.0
Джерело першоджерела
github.com/wleilei/OV-DEIM
Код LibreYOLO
MIT
Ваги
CC BY-NC 4.0, повторно опубліковано на huggingface.co/LibreYOLO
Тлумачення
OV-DEIM's code is Apache-2.0; LibreYOLO's port keeps that license and preserves the original RT-DETR and DEIMv2 attribution headers. The published S, M and L checkpoints carry a separate CC BY-NC 4.0 license: redistribution and format conversion are permitted with attribution, but only for non-commercial use, confirmed directly by the upstream author. Every prediction also runs a bundled MobileCLIP-B(LT) text tower, loaded unchanged from Apple's own release, to embed the vocabulary online; those weights carry the Apple Machine Learning Research Model license, which permits redistribution with the license text, an attribution notice and a record of modifications, but restricts use to research, a stricter term than CC BY-NC 4.0 that applies to every call this family makes. The `l` checkpoint's DINOv3-S backbone fine-tune is separately subject to Meta's DINOv3 License.

OV-DEIM додає до кожного виклику передбачення три початкові ліцензії: ваги детектора за власною ліцензією OV-DEIM CC BY-NC 4.0, текстова онлайн-вежа за ліцензією Apple Machine Learning Research Model лише для дослідницького використання, а для контрольної точки l також донавчений бекбон DINOv3-S за DINOv3 License від Meta. Усі три тексти ліцензій постачаються в репозиторії ваг LibreYOLO.

Цитування

@misc{wang2026ovdeim,
      title={OV-DEIM: Real-time DETR-Style Open-Vocabulary Object Detection with GridSynthetic Augmentation}, 
      author={Leilei Wang and Longfei Liu and Xi Shen and Xuanlong Yu and Ying Tiffany He and Fei Richard Yu and Yingyi Chen},
      year={2026},
      eprint={2603.07022},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2603.07022}, 
}

Скопійовано з блоку цитування авторів на сторінці github.com/wleilei/OV-DEIM#4-citation.

Перевірено з LibreYOLO v1.5.0. Таблиці підтримки, контрольні точки й результати бенчмарків на цій сторінці згенеровано з випущеної бібліотеки та опублікованих ваг, а не написано вручну.