OpenVINO

OpenVINO IR — формат среды выполнения от Intel: граф model.xml рядом с блобом весов model.bin. LibreYOLO экспортирует промежуточный ONNX, конвертирует его через ov.convert_model и записывает metadata.yaml в ту же директорию.

Флаг: export(format="openvino")
Записывает: Директорию с model.xml, model.bin и metadata.yaml
Дополнительно: pip install "libreyolo[onnx,openvino]"
Загружается обратно: LibreYOLO("weights/LibreYOLO9t_openvino")
Формы: Следуют за промежуточным ONNX: динамический батч при dynamic=True
Точность: FP32, сжатие весов в FP16 (half=True), INT8 через NNCF (int8=True вместе с data=)

Установка

# IR конвертируется из промежуточного ONNX, поэтому нужны оба extra.pip install "libreyolo[onnx,openvino]"

Для INT8 дополнительно нужен NNCF

pip install nncf

Конвертация идёт через промежуточный ONNX, поэтому extra onnx входит в состав требований, а не остаётся опциональным дополнением. NNCF ставится отдельно и нужен только для int8=True.

Экспорт

Python

from libreyolo import LibreYOLO model = LibreYOLO("LibreYOLO9t.pt") # Записывает директорию weights/LibreYOLO9t_openvinopath = model.export(format="openvino")print(path)

CLI

libreyolo export --model LibreYOLO9t.pt --format openvino

Аргументы

model.export(    format="openvino",    imgsz=640,    batch=1,    dynamic=False,    # True сохраняет динамическую ось батча в IR    half=False,       # True сохраняет веса в FP16    int8=False,       # True запускает квантизацию NNCF после обучения    data=None,        # обязателен при int8=True    output_path=None, # None записывает weights/<stem>_openvino)

Артефакт — это директория, а не файл. В weights/LibreYOLO9t_openvino лежат model.xml, model.bin и metadata.yaml, а при half=True перед суффиксом вставляется _fp16. Переносить или копировать нужно директорию целиком; эти три файла — один артефакт.

half=True выставляет compress_to_fp16 при сохранении. Это сжатие весов внутри IR, а не изменение точности инференса, которую устройство выбирает во время выполнения.

INT8

INT8 с калибровочными данными

from libreyolo import LibreYOLO LibreYOLO("LibreYOLO9t.pt").export(    format="openvino",    int8=True,    data="coco128.yaml",   # обязателен: у этого формата нет значения по умолчанию    fraction=1.0,)

int8=True запускает квантизацию NNCF после обучения по калибровочному загрузчику LibreYOLO с пресетом mixed, и data обязателен: у этого формата нет запасного варианта из восьми изображений. Если NNCF не установлен, поднимается ImportError, в котором названа команда установки.

Запуск артефакта

Через LibreYOLO

from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("weights/LibreYOLO9t_openvino")result = model.predict(SAMPLE_IMAGE)print(result.boxes.xyxy[:3])

Выбор устройства

from libreyolo import LibreYOLO # "auto" и "cpu" отображаются на CPU, "gpu" и "cuda" — на GPU,# всё остальное передаётся в верхнем регистре, например "npu" -> NPU.model = LibreYOLO("weights/LibreYOLO9t_openvino", device="gpu")

Чистый OpenVINO

import numpy as npimport openvino as ovimport yaml core = ov.Core()print(core.available_devices) compiled = core.compile_model("weights/LibreYOLO9t_openvino/model.xml", "CPU")outputs = compiled(np.zeros((1, 3, 640, 640), dtype=np.float32))print([tensor.shape for tensor in outputs.values()]) # Имена классов, задача и размер входа лежат в metadata.yaml рядом с IR.meta = yaml.safe_load(open("weights/LibreYOLO9t_openvino/metadata.yaml"))print(meta["model_family"], meta["task"], meta["names"]) # Предобработка и постобработка на этом пути — на вас.

LibreYOLO() распознаёт любую директорию, в которой есть model.xml, и возвращает тот же объект Results, что и чекпойнт, считывая имена классов, задачу, размер входа и схему позы из metadata.yaml.

Строка устройства не передаётся напрямую, а отображается на цель. auto и cpu компилируются под CPU, gpu и cuda — под GPU, а любое другое значение переводится в верхний регистр и отдаётся в OpenVINO; так и задаётся цель NPU.

Третий сниппет — для читателей, у которых LibreYOLO не установлен. Предобработка, декодирование, NMS и пересчёт координат там ложатся на вас, а имена классов существуют только в metadata.yaml.

Ограничения

IR без своего metadata.yaml всё равно загрузится, но бэкенд тогда откатывается к 80 классам и задаче детекции, что неверно для всего остального. Директорию нужно держать целой.

Заблокировано до трассировки: сегментация YOLO9, сегментация RTMDet-Ins, детекция SSD, Faster R-CNN и RetinaNet, а также маттинг BiRefNet или FeyNobg — там OpenVINO 2026.2 не может преобразовать стандартную ONNX-операцию DeformConv-19 из общего декодера матта.

Если комбинация не проверена и не заблокирована, путь через конвертер доступен, а паритет со средой выполнения OpenVINO для неё в проекте не зафиксирован. Несколько комбинаций проверены с явно указанным контекстом: например, семантическая сегментация DeepLabV3 при фиксированном входе 520 на 520 в OpenVINO 2026.2 с точностью инференса CPU по умолчанию и оценка взгляда L2CS при фиксированном кропе лица 448 на 448. libreyolo formats печатает этот контекст для каждой комбинации.

Полную таблицу семейств и задач смотрите в матрице экспорта. Для одной комбинации:

Проверка одного семейства и задачи перед экспортом

libreyolo formats --family yolo9 --task detect