비교
Safetensors와 ONNX: 가중치 저장과 모델 그래프
Safetensors는 이름이 있는 텐서를 저장합니다. ONNX는 연산 그래프, 입출력과 연산자 버전을 포함하는 모델 표현입니다.
어떤 형식을 선택해야 할까요?
호환 모델에 가중치를 로드하려면 Safetensors를, 호환 런타임에 그래프를 전달하려면 ONNX를 고려하세요.
적합한 경우 Safetensors
머신러닝 텐서 가중치 저장 및 배포 · 지원되는 프레임워크 사이에서 가중치 로드
- 임의의 Python 객체가 아니라 텐서와 기본 메타데이터 교환
- 필요한 텐서만 확인하고 로드하는 작업 흐름
적합한 경우 ONNX
지원 런타임에 머신러닝 계산 그래프와 가중치 교환 · 학습 프레임워크와 추론 환경 사이에서 모델 이동
- 모델의 연산자와 opset을 지원하는 런타임에서 추론
- 입력 출력 유형을 포함한 그래프 교환
기본 정보
| 항목 | Safetensors | ONNX |
|---|---|---|
| 확장자 | .safetensors | .onnx |
| MIME 유형 | application/octet-stream | application/octet-stream |
| 주요 용도 | 머신러닝 텐서 가중치 저장 및 배포 · 지원되는 프레임워크 사이에서 가중치 로드 | 지원 런타임에 머신러닝 계산 그래프와 가중치 교환 · 학습 프레임워크와 추론 환경 사이에서 모델 이동 |
| 여는 방법 | Safetensors 호환 라이브러리나 모델 도구로 여세요. 지원 도구는 가중치를 장치에 전부 올리기 전에 텐서 이름, dtype, shape를 확인할 수 있습니다. JSON 헤더가 있다고 해서 파일 전체가 JSON 텍스트인 것은 아닙니다. | ONNX checker나 호환 추론 런타임으로 불러오세요. 배포 전에 IR/opset 버전, 연산자, 입출력 유형과 shape, 런타임 지원을 확인하고 대표 입력에서 원본 모델과 출력을 비교하세요. |
| 내보내기 또는 변환 | 모델 프레임워크가 지원하는 API로 텐서 가중치를 저장하세요. Pickle 기반 입력을 변환할 때 입력을 역직렬화할 수 있으므로 출처를 신뢰할 수 없는 파일을 무심코 로드하지 마세요. 변환 후 텐서 이름, shape, dtype, 요소 수, 모델 출력을 비교하세요. | 원본 프레임워크의 ONNX exporter로 변환하고 ONNX checker로 구조를 검증하세요. 변환 성공이 수치적 동등성이나 대상 기기 실행을 보장하지 않습니다. 외부 데이터를 쓰면 모델과 모든 참조 파일을 같은 배포 단위로 보관하세요. |
용도별 선택
임의의 Python 객체가 아니라 텐서와 기본 메타데이터 교환
머신러닝 텐서 가중치 저장 및 배포 · 지원되는 프레임워크 사이에서 가중치 로드
Safetensors필요한 텐서만 확인하고 로드하는 작업 흐름
머신러닝 텐서 가중치 저장 및 배포 · 지원되는 프레임워크 사이에서 가중치 로드
Safetensors모델의 연산자와 opset을 지원하는 런타임에서 추론
지원 런타임에 머신러닝 계산 그래프와 가중치 교환 · 학습 프레임워크와 추론 환경 사이에서 모델 이동
ONNX입력 출력 유형을 포함한 그래프 교환
지원 런타임에 머신러닝 계산 그래프와 가중치 교환 · 학습 프레임워크와 추론 환경 사이에서 모델 이동
ONNX핵심 사항 1
Safetensors만으로 모델 구조나 추론 코드가 정의되지 않습니다.
차이 자세히 보기핵심 사항 2
ONNX는 그래프의 초기화 텐서를 포함하고 외부 데이터를 참조할 수 있습니다.
차이 자세히 보기차이 자세히 보기
직접 대체할 수 있는 형식이 아닙니다. 가중치에서 ONNX를 만들려면 모델 정의와 지원되는 내보내기 과정이 필요합니다. 확장자를 바꿔도 그래프는 생성되지 않습니다.
- Safetensors 헤더는 텐서 이름, dtype, shape와 데이터 범위를 기록합니다. 분할 파일 색인, 설정, 토크나이저 등 필요한 항목은 별도로 확인하세요.
- ONNX IR/opset, 연산자와 타입의 런타임 지원을 확인하고 외부 가중치 참조를 유지하세요. 동일한 전처리와 대표 입력으로 출력을 비교하세요. 구조 검사는 정확도나 속도를 보장하지 않습니다.
자주 묻는 질문
Safetensors는 출처와 관계없이 믿어도 되나요?
아니요. pickle 방식의 임의 객체 복원을 피하지만 출처, 로더, 의존 코드나 모델 자체의 안전성을 보장하지 않습니다.