Xuất và triển khai

Đưa một mô hình đã huấn luyện ra khỏi PyTorch và chạy ở nơi khác.

ONNX

TorchScript

TensorRT

OpenVINO

TFLite

Core ML

ExecuTorch

ncnn

MNN

RKNN

Paddle

Core AI

Lượng tử hóa

Triton Inference Server

NVIDIA DeepStream

NVIDIA Jetson

Hailo