Guías
Comprobaciones antes de entregar un modelo de IA
Distinga pesos, grafos de cálculo y entornos de inferencia. Entregue dependencias y resultados de entradas representativas; una conversión exitosa no demuestra compatibilidad ni calidad.
¿Qué formato deberías elegir?
Elige según la función de cada archivo en tu flujo de trabajo.
- Registrar requisitos y procedencia
- Reunir los archivos necesarios
- Validar la inferencia en destino
Registrar requisitos y procedencia
Registre origen, revisión, condiciones de uso, arquitectura, tipos y formas de entrada/salida, preprocesamiento y posprocesamiento. Compare IR/opset de ONNX y tipos de tensores GGUF con el entorno de destino.
Reunir los archivos necesarios
Conserve referencias a pesos externos ONNX. Incluya fragmentos Safetensors, índices, definición del modelo y dependencias necesarias. GGUF puede requerir partes o archivos auxiliares. Compruebe si tokenizer y ajustes están integrados o separados.
Validar la inferencia en destino
Use un cargador actualizado y compatible para revisar estructura, nombres, tipos y formas de tensores. Con idéntico preprocesamiento y entradas, compare salidas y registre tolerancias y memoria. Evalúe conversión y cuantización por separado.
Formatos a considerar
ONNX
Adecuado para: Intercambiar grafos con entornos compatibles
Menos adecuado para: Suponer compatibilidad con todos los operadores y opsets
Safetensors
Adecuado para: Guardar y distribuir pesos de tensores
Menos adecuado para: Suponer que los pesos incluyen definición y código ejecutable
GGUF
Adecuado para: Entregar modelos a implementaciones GGML compatibles
Menos adecuado para: Deducir cuantización o compatibilidad por la extensión
Antes de exportar
- El nombre del formato o los hashes no prueban procedencia ni seguridad. No ejecute sin precaución código o entradas de conversión no fiables; compruebe su origen.
- Conserve modelo original, parámetros e inventario. Una entrada coincidente no garantiza calidad para todas las entradas o dispositivos.