TorchScript

Instalacja

pip install libreyolo

TorchScript nie wymaga niczego poza podstawową instalacją, ponieważ torch.jit jest dostarczany razem z PyTorch. To jedyny cel eksportu bez opcjonalnej zależności i bez zewnętrznego konwertera, co czyni go przydatnym pierwszym sprawdzeniem, gdy dłuższy toolchain zawodzi.

Eksport

from libreyolo import LibreYOLO model = LibreYOLO("LibreYOLO9t.pt") # Zapisuje weights/LibreYOLO9t.torchscriptpath = model.export(format="torchscript")print(path)

libreyolo export --model LibreYOLO9t.pt --format torchscript

model.export(    format="torchscript",    imgsz=640,        # int lub (wysokość, szerokość)    batch=1,    half=False,       # wagi i aktywacje w FP16    device=None,      # None śledzi na CPU dla tego formatu    output_path=None, # None zapisuje weights/<stem>.torchscript) # dynamic jest akceptowane, ale archiwum zawsze zawiera ślad o stałym# kształcie, a osadzone metadane i tak zapisują dynamic=False.

Śledzenie odbywa się na CPU, o ile nie wskazano urządzenia, a archiwum jest zapisywane w weights/ pod nazwą rdzenia checkpointu, gdy pominięto output_path.

Kontrola ponownego śledzenia, którą torch.jit.trace normalnie wykonuje, jest wyłączona. Kilka wrapperów eksportu zapisuje w pamięci podręcznej zależne od kształtu kotwice podczas pierwszego przebiegu w przód, więc drugie śledzenie obserwuje inną ścieżkę w Pythonie, mimo że zarejestrowany graf o stałym kształcie jest poprawny. Testy parzystości weryfikują zamiast tego bezpośrednio zapisany moduł.

Metadane nie znajdują się w pliku sidecar. torch.jit.save zapisuje libreyolo_metadata.json wewnątrz archiwum, a torch.jit.load zwraca je przez _extra_files.

Uruchomienie artefaktu

from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("weights/LibreYOLO9t.torchscript")result = model.predict(SAMPLE_IMAGE)print(result.boxes.xyxy[:3])

import json import torch extra_files = {"libreyolo_metadata.json": ""}module = torch.jit.load(    "weights/LibreYOLO9t.torchscript",    map_location="cpu",    _extra_files=extra_files,)module.eval() metadata = json.loads(extra_files["libreyolo_metadata.json"])print(metadata["model_family"], metadata["task"], metadata["imgsz"]) # Na tej ścieżce preprocessing i postprocessing są po stronie użytkownika.with torch.no_grad():    out = module(torch.zeros(1, 3, 640, 640))print(out.shape if torch.is_tensor(out) else [t.shape for t in out])

LibreYOLO() rozpoznaje ścieżkę po sufiksie .torchscript i zwraca ten sam obiekt Results co checkpoint, z którego powstało archiwum. Przy device="auto" moduł jest mapowany na CUDA, jeśli jest dostępna, a w przeciwnym razie na CPU. Na Apple Silicon działa on na CPU, ponieważ MPS nie potrafi wczytać stałych float64, które zawiera śledzony graf.

Drugi snippet to ścieżka dla czytelnika, który nie ma zainstalowanego LibreYOLO, oraz dla wdrożenia w C++ przez libtorch, gdzie to samo archiwum wczytuje się za pomocą torch::jit::load. Preprocessing, dekodowanie, NMS i przeskalowanie współrzędnych są tam po stronie użytkownika. Dodatkowy plik metadanych nadal daje się odczytać i jest jedynym miejscem, w którym istnieją nazwy klas.

Ograniczenia

Graf jest śladem przy jednym kształcie wejścia. dynamic=True jest akceptowane dla symetrii interfejsu, ale nic nie zmienia, a osadzone metadane raportują dynamic=False, żeby backend nigdy nie zakładał osi, której nie może użyć. Dla drugiej rozdzielczości należy wyeksportować drugie archiwum.

half=True rzutuje model i wejście śledzenia na FP16. Nie ma ścieżki INT8: int8=True zgłasza NotImplementedError podczas walidacji.

Prostokątny imgsz działa dla rodzin YOLO9, HRNet, NAFNet i Real-ESRGAN, a jest odrzucany dla rodzin ze stałym kwadratowym kontraktem.

Pięć kombinacji jest odrzucanych przed śledzeniem. Segmentacja YOLO9, ponieważ YOLO9 w LibreYOLO służy tylko do detekcji. Segmentacja RTMDet-Ins, której dekodowanie masek z dynamicznym jądrem nie ma kontraktu dla eksportowanego środowiska uruchomieniowego. Detekcja SSD, Faster R-CNN i RetinaNet, których grafy o zmiennej długości lub z dynamicznymi kotwicami mają dowody parzystości wyłącznie w ramach kontraktu ONNX Runtime.

Pełna siatka rodzin i zadań znajduje się w macierzy eksportu. Dla jednej kombinacji:

libreyolo formats --family yolo9 --task detect