Format Atlas

Comparar

Arrow IPC vs CSV

Ambos trocam dados tabulares, mas Arrow IPC é um formato binário colunar com tipos, enquanto CSV é texto simples com campos delimitados.

Qual formato você deve escolher?

Escolha Arrow IPC para preservar esquemas tipados entre ferramentas compatíveis; escolha CSV para texto legível e ampla compatibilidade com planilhas e aplicativos.

Indicado para Apache Arrow IPC

Trocar dados tabulares colunares entre programas e linguagens compatíveis · Transferir conjuntos de dados analíticos entre ferramentas com suporte a Arrow

  • Mover dados tipados entre bibliotecas Arrow e mecanismos analíticos
  • Acessar lotes de registros aleatoriamente no formato de arquivo IPC

Indicado para CSV

Troca de dados tabulares

  • Transferir uma tabela simples entre aplicativos

Informações básicas

CampoApache Arrow IPCCSV
Extensão.arrow, .feather, .arrows.csv
Tipo MIMEapplication/vnd.apache.arrow.file, application/vnd.apache.arrow.streamtext/csv
Usos comunsTrocar dados tabulares colunares entre programas e linguagens compatíveis · Transferir conjuntos de dados analíticos entre ferramentas com suporte a ArrowTroca de dados tabulares
Como abrirLeia com uma biblioteca Apache Arrow ou uma ferramenta analítica compatível com Arrow IPC. A extensão .arrow costuma indicar o formato de arquivo e .arrows o formato de fluxo, mas confirme o que a ferramenta receptora espera e quais codecs aceita. Para arquivos Feather, verifique a compatibilidade com o antigo Feather V1.Ao importar em uma planilha, defina codificação e delimitador. Verifique se zeros iniciais, valores parecidos com datas e números longos não são convertidos automaticamente.
Exportar ou converterParquet pode ser adequado para armazenar e distribuir dados analíticos; CSV, para troca simples de tabelas. A conversão pode alterar ou descartar tipos próprios do Arrow, estruturas aninhadas, codificação por dicionário ou configurações de compressão. Confira os tipos e a precisão necessários e mantenha os dados de origem.Ao exportar XLSX para CSV, normalmente apenas valores de uma planilha escolhida são gravados. Guarde fórmulas, formatação, outras planilhas e gráficos separadamente.

Escolha por finalidade

Mover dados tipados entre bibliotecas Arrow e mecanismos analíticos

Trocar dados tabulares colunares entre programas e linguagens compatíveis · Transferir conjuntos de dados analíticos entre ferramentas com suporte a Arrow

Apache Arrow IPC

Acessar lotes de registros aleatoriamente no formato de arquivo IPC

Trocar dados tabulares colunares entre programas e linguagens compatíveis · Transferir conjuntos de dados analíticos entre ferramentas com suporte a Arrow

Apache Arrow IPC

Transferir uma tabela simples entre aplicativos

Troca de dados tabulares

CSV

Ponto principal 1

Arrow define matrizes tipadas por coluna e serializa lotes de registros por IPC; CSV guarda linhas e campos como texto.

Mais sobre as diferenças

Ponto principal 2

Arrow representa explicitamente tipos como números, horários, nulos e valores aninhados; leitores CSV costumam inferir tipos do texto ou precisam de um esquema separado.

Mais sobre as diferenças

Mais sobre as diferenças

Use Arrow IPC quando ferramentas compatíveis precisarem trocar dados colunares preservando tipos, nulabilidade e campos aninhados. Use CSV para inspeção por pessoas ou troca de tabelas simples com muitos aplicativos. Para CSV, combine codificação, delimitador, aspas, cabeçalho e interpretação dos tipos; para Arrow, confirme o suporte a arquivo ou fluxo IPC.

  • Arrow usa esquema colunar independente de linguagem e lotes IPC serializados como arquivo ou fluxo. CSV é texto organizado por linhas; a RFC 4180 documenta convenções comuns de vírgulas, aspas e quebras de linha.
  • Arrow representa tipos e valores nulos explicitamente, inclusive algumas estruturas aninhadas. Valores CSV são texto, então a semântica de tipos e nulos costuma ser inferida pelo leitor ou definida externamente.
  • CSV é legível e fácil de compartilhar, mas análise e inferência de tipos podem ser custosas ou ambíguas em grande escala. Arrow atende à troca analítica tipada, porém exige bibliotecas compatíveis.

Perguntas frequentes

CSV preserva os tipos de dados das colunas?

O texto CSV não fornece por si só um esquema de colunas rico e padronizado. Leitores normalmente inferem os tipos ou dependem de informações de esquema separadas.

Saiba mais

Referências e especificações