TorchScript vs ONNX vs TensorRT

ChatGPT 와 정리한 내용

실전 파이프라인

PyTorch 모델
   ↓
TorchScript (PyTorch 전용 추론)
   ↓
ONNX (프레임워크 중립 포맷)
   ↓
TensorRT (최고 속도 추론)

 

상황별 추천

Pytorch -> TorchScript -> ONNX  vs   Pytorch -> ONNX ?