Format Atlas

Comparar

HDF5 vs Zarr

HDF5 organiza grupos y datasets jerárquicamente en un contenedor general. Zarr representa matrices multidimensionales fragmentadas y metadatos como claves separadas en un almacén, con soporte para sistemas de archivos y objetos.

¿Qué formato deberías elegir?

Prefiera HDF5 para archivos existentes, jerarquías heterogéneas y herramientas compatibles. Considere Zarr para acceder por separado a fragmentos en almacenamiento de objetos; pruebe versión y codecs en su entorno.

Adecuado para HDF5

Almacenar jerárquicamente grandes conjuntos de datos científicos y técnicos · Mantener matrices multidimensionales y metadatos relacionados en un contenedor

  • Organizar datos complejos con grupos, conjuntos de datos y atributos
  • Flujos científicos que requieren acceso parcial o compresión por conjunto

Adecuado para Zarr

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

  • Leer regiones seleccionadas de matrices
  • Compartir datos fragmentados entre herramientas compatibles

Información básica

CampoHDF5Zarr
Extensión.h5, .hdf5.zarr
Tipo MIME
Usos habitualesAlmacenar jerárquicamente grandes conjuntos de datos científicos y técnicos · Mantener matrices multidimensionales y metadatos relacionados en un contenedorGuardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube
Cómo abrirUsa un programa de visualización o análisis, o una biblioteca compatible con HDF5. Examina la jerarquía de grupos, formas y tipos de los conjuntos, atributos y filtros. Consulta la documentación de origen, pues cada aplicación puede definir sus propias convenciones.Usa una biblioteca o herramienta compatible con Zarr. Revisa versión, forma, bloques, codecs y atributos. Conserva todo el directorio local o las claves necesarias y consulta la documentación del creador.
Exportar o convertirAntes de convertir a CSV, Parquet, FITS u otro formato, determina cómo trasladar jerarquía, dimensiones y tipos, atributos, unidades y coordenadas. Algunas estructuras o metadatos podrían no caber en el destino; conserva el original y compara los datos.Al convertir desde netCDF o HDF5, comprueba dimensiones, tipos, bloques, atributos y coordenadas. Conserva el original y valida los valores tras la conversión.

Elegir según el uso

Organizar datos complejos con grupos, conjuntos de datos y atributos

Almacenar jerárquicamente grandes conjuntos de datos científicos y técnicos · Mantener matrices multidimensionales y metadatos relacionados en un contenedor

HDF5

Flujos científicos que requieren acceso parcial o compresión por conjunto

Almacenar jerárquicamente grandes conjuntos de datos científicos y técnicos · Mantener matrices multidimensionales y metadatos relacionados en un contenedor

HDF5

Leer regiones seleccionadas de matrices

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

Zarr

Compartir datos fragmentados entre herramientas compatibles

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

Zarr

Punto clave 1

HDF5 guarda grupos, datasets y atributos dentro de un archivo. Zarr asigna metadatos y fragmentos a claves del almacén.

Más sobre las diferencias

Punto clave 2

HDF5 es un modelo jerárquico general con fragmentación y compresión opcionales; Zarr especifica matrices N-dimensionales, rejillas, codecs y claves.

Más sobre las diferencias

Más sobre las diferencias

Elija HDF5 si importan los archivos jerárquicos y las aplicaciones existentes. Considere Zarr si el flujo aprovecha lecturas y escrituras por fragmentos en un almacén. Mida con el acceso y backend reales.

  • HDF5 guarda grupos, datasets y atributos en un archivo. Zarr guarda documentos de metadatos y fragmentos codificados como claves independientes.
  • HDF5 ofrece un modelo general y disposiciones configurables. Zarr especifica matrices fragmentadas, rejillas, codecs y construcción de claves.
  • El rendimiento de lecturas parciales depende del tamaño de fragmento, acceso, caché y backend. En la migración, valide tipos, ausentes, atributos, codecs, fragmentación y acceso paralelo.

Preguntas frecuentes

¿Zarr siempre es más rápido que HDF5 para lecturas parciales?

No. Depende del tamaño de fragmento, la carga, la caché, la implementación y el almacenamiento; mida accesos representativos.

Más información

Usos y comprobaciones relacionados

Comprobaciones antes de entregar matrices científicas

Referencias y especificaciones