问题介绍(ffill填充存在的问题)
在pandas读取excel经常会遇到合并单元格的问题。例如:
此时使用pandas读取到的内容为:
如果去百度,几乎所有人会说应该用如下代码:
df['班级'] = df['班级'].ffill()
这样看起来没问题,但是,该解决方案并不能适用于所有场景,甚至会造成数据错误。
例如:
对班级和备注填充后:
孙武空本来是数据缺失,现在被错误的标记成了挂科数据。
再例如:
对所有列填充后:
同样存在大量数据或错误数据。
正确填充方式
思路:① 使用openpyxl将合并单元格拆分,生成中间文件 ② 读取中间文件
第一步,使用如下工具类生成拆分单元格并生成中间文件:
import openpyxl# 拆分所有的合并单元格,并赋予合并之前的值。# 由于openpyxl并没有提供拆分并填充的方法,所以使用该方法进行完成def unmerge_and_fill_cells(worksheet): all_merged_cell_ranges = list( worksheet.merged_cells.ranges ) for merged_cell_range in all_merged_cell_ranges: merged_cell = merged_cell_range.start_cell worksheet.unmerge_cells(range_string=merged_cell_range.coord) for row_index, col_index in merged_cell_range.cells: cell = worksheet.cell(row=row_index, column=col_index) cell.value = merged_cell.value# 读取原始xlsx文件,拆分并填充单元格,然后生成中间临时文件。def unmerge_cell(filename): wb = openpyxl.load_workbook(filename) for sheet_name in wb.sheetnames: sheet = wb[sheet_name] unmerge_and_fill_cells(sheet) filename = filename.replace(".xls", "_temp.xls") wb.save(filename)wb.close() # openpyxl保存之后,再用pandas读取会存在公式无法读取到的情况,使用下面方式就可以了 # 如果你的excel不涉及公式,可以删除下面内容 # 原理为:使用windows打开excel,然后另存为一下 from win32com.client import Dispatch xlApp = Dispatch("Excel.Application") xlApp.Visible = False xlBook = xlApp.Workbooks.Open(str(Path(".").absolute() / filename)) # 这里必须填绝对路径 xlBook.Save() xlBook.Close() return filenameif __name__ == '__main__': unmerge_cell("test.xlsx")
拆分后的sheet页如图:
然后再使用pandas读取中间文件即可:
import pandas as pddf = pd.read_excel("test_temp.xlsx")
结果为: