ExecuTorch

Установка

# Намеренно вынесено из libreyolo[all]: ExecuTorch ограничивает, с какой# версией Torch его можно сочетать.pip install "libreyolo[executorch]"

Этот extra намеренно вынесен за пределы libreyolo[all], потому что ExecuTorch жёстко фиксирует версию Torch, с которой работает, и его установка утянула бы всё окружение на эту пару. Ставьте его в окружение, которое вы готовы ограничить.

На Windows шаг понижения вызывает исполняемый файл flatc, который поставляется вместе с ExecuTorch. Если его нет в PATH, экспорт выбрасывает RuntimeError с соответствующим сообщением, а лечится это запуском из Developer PowerShell для Visual Studio 2022.

Экспорт

from libreyolo import LibreYOLO model = LibreYOLO("LibreYOLO9t.pt") # Записывает weights/LibreYOLO9t.pte и weights/LibreYOLO9t.pte.jsonpath = model.export(format="executorch", imgsz=640)print(path)

libreyolo export --model LibreYOLO9t.pt --format executorch --imgsz 640

model.export(    format="executorch",    imgsz=640,             # int или (height, width)    batch=1,               # любое другое значение вызывает ValueError    dynamic=False,         # True вызывает ValueError    delegate="xnnpack",    # единственное допустимое значение    device="cpu",          # любое другое устройство вызывает ValueError    output_path=None,      # None записывает weights/<stem>.pte)

Захват — это torch.export.export(..., strict=True), настоящий захват графа с guard-проверками, а не записанная трассировка. Чтение скалярных значений на хосте и зависящий от данных поток управления отклоняются, а не запекаются молча в граф, поэтому здесь падают несколько семейств, которые в других форматах трассируются успешно; причины записаны для каждой комбинации в матрице поддержки.

Понижение выполняет to_edge_transform_and_lower с партиционером XNNPACK. Если в результате ноль делегированных разделов, экспорт выбрасывает ошибку, а не выдаёт за XNNPACK программу, собранную только из портируемых ядер.

Программа и sidecar-файл фиксируются вместе. Оба сначала пишутся во временные файлы, оба подменяются разом, а сбой откатывает всё к тому, что было раньше, так что неполная пара никогда не попадает на диск.

Запуск артефакта

from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("weights/LibreYOLO9t.pte")result = model.predict(SAMPLE_IMAGE)print(result.boxes.xyxy[:3])

import jsonfrom pathlib import Path import torchfrom executorch.runtime import Runtime runtime = Runtime.get()print(runtime.backend_registry.is_available("XnnpackBackend")) program = runtime.load_program(Path("weights/LibreYOLO9t.pte").read_bytes())method = program.load_method("forward") # Предобработка и постобработка на этом пути — на вас.outputs = method.execute((torch.zeros(1, 3, 640, 640),))print([tensor.shape for tensor in outputs]) meta = json.load(open("weights/LibreYOLO9t.pte.json"))print(meta["model_family"], meta["task"], meta["executorch_delegate"])

LibreYOLO() выбирает ветку по суффиксу .pte и возвращает тот же объект Results, что и чекпойнт. При загрузке sidecar-файл обязателен: без <program>.pte.json бэкенд выбрасывает FileNotFoundError, потому что сама программа не несёт ни имён классов, ни задачи, ни размера входа. Ещё бэкенд перед загрузкой проверяет, что установленная среда выполнения предоставляет XnnpackBackend, и читает программу из байтов, а не отображает файл в память, что избавляет от удержания файловой блокировки Windows на всё время жизни бэкенда.

Второй сниппет — путь через голую среду выполнения. Предобработка, декодирование, NMS и пересчёт координат там ложатся на вас.

Ограничения

Батч 1, фиксированная форма, FP32, CPU. batch != 1 и dynamic=True оба выбрасывают ValueError ещё до того, как экспорт что-либо изменит, half=True и int8=True отклоняются при валидации, а устройство, отличное от CPU, не принимается.

delegate в этой версии принимает "xnnpack" и ничего больше.

Экспорты классификации несут два дополнительных ключа метаданных, crop_pct и interpolation, чтобы среда выполнения могла воспроизвести принятые в семействе правила изменения размера и центрального кропа.

Заблокированные комбинации называют конкретный сбой, а не категорию. Детекция и сегментация D-FINE упираются в неподдерживаемое чтение ContextVar в deformable attention при строгом захвате, а принудительный ручной путь через grid-sample сериализуется, но затем падает во время выполнения на недопустимом порядке размерностей делегированного тензора. DEIM и DEIMv2 захватываются, понижаются и сериализуются, а потом падают при выполнении. Семантическая сегментация EoMT падает на зависящем от данных символьном выражении в ветке масок. Маттинг BiRefNet захватывается при 1024 на 1024, но не имеет out-варианта для torchvision::deform_conv2d. Восстановление SwinIR перезагружается, а затем падает в aten::alias_copy.out из-за несовпадающих порядков размерностей.

Полную сетку семейств и задач смотрите в матрице экспорта. Для одной комбинации:

libreyolo formats --family yolo9 --task detect