18

我想将某些列是字符串数组或结构数组（通常是键值对）的数据写入 Parquet 文件以在 AWS Athena 中使用。

在找到两个支持写入 Parquet 文件的 Python 库（Arrow 和 fastparquet）后，我一直在努力尝试实现结构数组。

编写 Parquet 文件的问题的最佳答案列出了这两个库（并提到缺少对嵌套数据的支持）。

那么有没有办法从 Python 将嵌套数据写入 Parquet 文件？

为了存储键/值，我使用Arrow尝试了以下操作。

import pyarrow as pa
import pyarrow.parquet as pq

countries = []
populations = []

countries.append('Sweden')
populations.append([{'city': 'Stockholm', 'population': 1515017}, {'city': 'Gothenburg', 'population': 590580}])
countries.append('Norway')
populations.append([{'city': 'Oslo', 'population': 958378}, {'city': 'Bergen', 'population': 254235}])


ty = pa.struct([pa.field('city', pa.string()),
                pa.field('population', pa.int32())
])

fields = [
    pa.field('country', pa.string()),
    pa.field('populations', pa.list_(ty)),
]
sch1 = pa.schema(fields)

data = [
    pa.array(countries),
    pa.array(populations, type=pa.list_(ty))
]
batch = pa.RecordBatch.from_arrays(data, ['f0', 'f1'])
table = pa.Table.from_batches([batch], sch1)
writer = pq.ParquetWriter('cities.parquet', sch1)
writer.write_table(table)
writer.close()

当我运行代码时，我收到以下消息：

Traceback (most recent call last):
  File "stackoverflow.py", line 30, in <module>
    writer.write_table(table)
  File "/Users/moonhouse/anaconda2/envs/parquet/lib/python3.6/site-packages/pyarrow/parquet.py", line 327, in write_table
    self.writer.write_table(table, row_group_size=row_group_size)
  File "_parquet.pyx", line 955, in pyarrow._parquet.ParquetWriter.write_table
  File "error.pxi", line 77, in pyarrow.lib.check_status
pyarrow.lib.ArrowInvalid: Nested column branch had multiple children

最近 Arrow JIRA 票证中包含相同错误消息的答案表明正在进行支持结构的工作，尽管我不清楚它是否涵盖写入或仅读取这些结构。

当我尝试使用fastparquet存储数据时（就像我有一个字符串列表时一样）：

import pandas as pd
from fastparquet import write

data = [{  'cities': ['Stockholm', 'Copenhagen', 'Oslo', 'Helsinki']}]

df = pd.DataFrame(data)
write('test.parq', df, compression='SNAPPY')

没有给出错误消息，但在 parquet-tools 中查看时，我注意到数据是 Base64 编码的 JSON。

cities = WyJTdG9ja2hvbG0iLCAiQ29wZW5oYWdlbiIsICJPc2xvIiwgIkhlbHNpbmtpIl0=

我猜这是意料之中的，因为fastparquet 不支持嵌套对象数组。

4

1 回答 1

2

解决方案

拉箭头 >= 0.17.0 应该可以解决您的错误。

参考

公关：https ://github.com/apache/arrow/pull/6751

于 2020-07-06T23:06:01.907 回答