Format Atlas

Comparar

Parquet frente a Zarr

Apache Parquet guarda tablas en archivos divididos en grupos de filas y fragmentos de columnas. Zarr guarda matrices multidimensionales en fragmentos con metadatos dentro de un almacén.

¿Qué formato deberías elegir?

Elige Parquet para recorrer columnas de datos tabulares en consultas analíticas. Considera Zarr para grandes matrices multidimensionales con acceso por fragmentos o almacenamiento de objetos.

Adecuado para Parquet

Guardar tablas estructuradas para análisis

  • Grandes conjuntos leídos por columnas seleccionadas

Adecuado para Zarr

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

  • Leer regiones seleccionadas de matrices
  • Compartir datos fragmentados entre herramientas compatibles

Información básica

CampoParquetZarr
Extensión.parquet.zarr
Tipo MIMEapplication/vnd.apache.parquet
Usos habitualesGuardar tablas estructuradas para análisisGuardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube
Cómo abrirUse una herramienta Parquet para revisar esquema, tipos, número de filas y valores.Usa una biblioteca o herramienta compatible con Zarr. Revisa versión, forma, bloques, codecs y atributos. Conserva todo el directorio local o las claves necesarias y consulta la documentación del creador.
Exportar o convertirDesde CSV u otros formatos, compruebe tipos, nulos, fechas, codificación, particiones y filas.Al convertir desde netCDF o HDF5, comprueba dimensiones, tipos, bloques, atributos y coordenadas. Conserva el original y valida los valores tras la conversión.

Elegir según el uso

Grandes conjuntos leídos por columnas seleccionadas

Guardar tablas estructuradas para análisis

Parquet

Leer regiones seleccionadas de matrices

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

Zarr

Compartir datos fragmentados entre herramientas compatibles

Guardar matrices multidimensionales grandes por bloques · Usar datos científicos en almacenamiento de objetos en la nube

Zarr

Punto clave 1

Los grupos de filas de Parquet contienen fragmentos de columnas ubicados mediante metadatos del archivo; Zarr almacena metadatos de matriz y fragmentos codificados.

Más sobre las diferencias

Punto clave 2

Parquet se organiza por filas y columnas de tablas; Zarr, por ejes y fragmentos de matrices N-dimensionales.

Más sobre las diferencias

Más sobre las diferencias

Usa Parquet para análisis tabular que leen columnas seleccionadas. Usa Zarr para acceso fragmentado a grandes matrices. Ajusta grupos de filas o fragmentos a las consultas y al almacenamiento reales.

  • Los metadatos Parquet localizan fragmentos de columnas en grupos de filas. Los de Zarr describen forma, tipo, rejilla de fragmentos y códecs, mientras los datos se guardan como claves separadas.
  • Parquet representa filas y columnas; Zarr, dimensiones y fragmentos. El rendimiento depende de que la disposición coincida con las consultas o cortes.
  • Al convertir, asigna filas, columnas y dimensiones; valida tipos, nulos o ausentes, unidades, metadatos de tiempo y coordenadas, códecs y lectura. Transfiere juntos todos los metadatos y fragmentos Zarr.

Preguntas frecuentes

¿Parquet y Zarr pueden sustituirse directamente?

No. Uno modela tablas y el otro matrices multidimensionales; la conversión requiere asignar explícitamente dimensiones, tipos, valores ausentes y metadatos.

Más información

Referencias y especificaciones