如何在Python中读取gzip镶木地板文件

2022-03-23 00:00:00 python gzip parquet hadoop

问题描述

我需要打开一个gzip文件,其中包含一个包含一些数据的拼图文件。我在尝试打印/读取文件中的内容时遇到了很多问题。我尝试了以下操作:

with gzip.open("myFile.parquet.gzip", "rb") as f:
    data = f.read()

这似乎不起作用,因为我收到一个错误,指出我的文件id不是GZ文件。谢谢!


解决方案

可以使用pandas模块中的read_parquet函数:

  1. 安装pandaspyarrow
pip install pandas pyarrow
  1. 使用read_parquet,返回DataFrame
data = read_parquet("myFile.parquet.gzip")
print(data.count()) # example of operation on the returned DataFrame

相关文章