エクスポートとデプロイ

学習済みモデルをPyTorchから取り出し、別の環境で実行します。

ONNX

TorchScript

TensorRT

OpenVINO

TFLite

Core ML

ExecuTorch

ncnn

MNN

RKNN

Paddle

Core AI

Quantization

Triton Inference Server

NVIDIA DeepStream

NVIDIA Jetson

Hailo