品牌 资讯 搭配 材料 时尚 热点 行业 首饰 玉石 行情

Pandas实战——灵活使用pandas基础知识轻松处理不规则数据

2023-08-19 23:38:22 来源:程序员客栈
点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书


(资料图片仅供参考)

剑阁峥嵘而崔嵬,一夫当关,万夫莫开。

大家好,我是皮皮。

一、前言

前几天在Python最强王者群【wen】问了一个pandas数据合并处理的问题,一起来看看吧。他的原始数据如下所示:

然后预期的结果如下所示:

二、实现过程

这里【瑜亮老师】给了一个指导如下:原始数据中包含所有所需的信息,但是因为源系统导出的格式问题,有些数据被分配到了合并行中,并且每个单独的表中都是统一格式。

源数据中"商品", "单价", "支付方式", "销售地", "销量"是已经处理好的数据,不需要单独处理。需要获取的信息是"平台", "商户", "账号",这三个均在合并行中,群友的建议都是使用re正则表达式获取。

获取到上面数据后,还需要删掉多余的行。仔细观察原始表格我们可以发现:每个单独表格是由一个平台、商户、账号所查询的,且所需平台、商户、账号数据分布在合并行中,而这些合并行在被pandas读取后会形成只有第一列有数值,其他列为NaN的情况。

处理过后的格式情况如下:

这就给了我们去掉这些合并行的简便方法:dropna。

而用正则获取到的平台、商户、账号只有一行,需要对数据进行向下填充空值。而pandas中fillna(method="ffill")即可实现使用前值去填充下面空值的需求。最后,瑜亮老师出手,实现需求,代码如下:

importpandasaspd


#读取Excel文件
df=pd.read_excel("20230812.xlsx",header=None)

#去除重复行
df=df.drop_duplicates(ignore_index=False).reset_index(drop=True)

#根据正则表达式获取“账号”,“平台”,“商户”
df["账号"]=df[0].str.extract(r"账号:(\d+)",expand=False).fillna(method="ffill")
df["平台"]=df[0].str.extract(r"平台:(.*?),",expand=False).fillna(method="ffill")
df["商户"]=df[0].str.extract(r"商户:(.*?),",expand=False).fillna(method="ffill")

#去除含有空值的行(即excel中所有的合并行
df=df.dropna().reset_index(drop=True)

#设置df的列名
df.columns=["商品","单价","支付方式","销售地","销量","账号","平台","商户"]
df=df[["平台","商户","账号","商品","单价","支付方式","销售地","销量"]]
print(df)

代码运行后的结果如下:

完美实现群友的需求!

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Pandas数据合并处理问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【wen】提问,感谢【瑜亮老师】给出的思路和代码解析,感谢【莫生气】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。

大家在学习过程中如果有遇到问题,欢迎随时联系我解决(我的微信:pdcfighting1),应粉丝要求,我创建了一些ChatGPT机器人交流群和高质量的Python付费学习交流群和付费接单群,欢迎大家加入我的Python学习交流群和接单群!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

-------------------End-------------------

往期精彩文章推荐:

if a and b and c and d:这种代码有优雅的写法吗?

Pycharm和Python到底啥关系?

都说chatGPT编程怎么怎么厉害,今天试了一下,有个静态网页,chatGPT居然没搞定?

站不住就准备加仓,这个pandas语句该咋写?

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群】

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

标签:

(责任编辑:)

相关文章

Pandas实战——灵活使用pandas基础知识轻松处理不规则数据

​点击上方“Python爬虫与数据挖掘”,进行关注回复“书籍”即可获赠Pyth

2023-08-19 23:38:22

受原料价格上涨影响 多家饲料企业联手涨价

​受原料价格上涨影响,多家饲料企业近日联手涨价。在此背景下,近日,新

2023-08-19 23:44:54

宁德时代第二座全资“零碳工厂”诞生:零碳是责任,是能力,更是机遇

​8月11日,宁德时代官宣,旗下全资子公司——广东瑞庆时代新能源科技

2023-08-19 23:18:30

2023年工业建筑概念相关的上市公司一览(8月18日)

​2023年工业建筑概念相关的上市公司一览(8月18日),2023年工业建筑概念

2023-08-19 23:07:31

文化韵味满满的新年祝福赋予你独特的文学气息

​1 “岁寒知有来,春华不待待。”祝愿新年所有的困难都会过去,好运与幸

2023-08-19 23:13:36

极越 01 登台,集度隐退「幕后」?

​吉利和百度的合作又有新进展了。8月14日,在工信部生产公告中出现了一

2023-08-19 22:58:01

亳州市多措并举规范行政执法行为

​田先进记者获悉,今年以来,亳州市制定六项措施,切实规范行政执法行为

2023-08-19 23:00:29

首份百亿基金经理中报出炉 大幅增持多只个股

​丘栋荣管理基金的中报出炉!2023年上半年,丘栋荣管理的5只基金隐形重

2023-08-19 22:50:40

淘宝内部优惠券怎么发 淘宝内部优惠券怎么设置

​0471房产来为大家解答以上的问题。淘宝内部优惠券怎么发,淘宝内部优惠

2023-08-19 22:30:20

海康威视:对下半年业务抱比较大的期待

​海康威视(002415)在业绩说明会表示,业绩逐季度改善的趋势是比较确定的

2023-08-19 21:37:28

利雅得新月官宣内马尔加盟

​每经AI快讯,北京时间8月16日凌晨,沙特豪门利雅得新月官方宣布,签下

2023-08-19 21:27:49

大逃杀游戏《Dark and Darker》更新:玩家不穿护甲伤害增加

​幻想大逃杀游戏《DarkandDarker》已正式推出抢先体验阶段,并近期发布

2023-08-19 21:12:05

象屿股份与广州港股份签署战略合作协议

​本次签约有助于双方进一步发挥各自的资源优势,在大宗商品物流、信息化

2023-08-19 21:19:09

官方宣布《寻找爱丽丝》将于本月24日登陆PS4和Switch

​近日,发行商SekaiProject宣布旗下冒险游戏《寻找爱丽丝》将于本月24日

2023-08-19 20:46:06

借呗逾期后11月份有什么政策-借呗逾期后11月份有什么政策了

​借呗逾期后11月份有什么政策?随着气温的骤降,人们的生活也逐渐进入了冬

2023-08-19 20:34:59

回顾李胜素与于魁智:同台搭档25年,如今各自安好,家庭幸福美满

​她是《红鬃烈马》中苦守寒窑十八年的王宝钏。也是《霸王别姬》中善解人

2023-08-19 20:30:41

中国建筑1-7月新签合同总额24468亿 地产业务销售2690亿元

​地产业务方面,合约销售额2,690亿元,同比增长30 4%,合约销售面积1,09

2023-08-19 20:00:12

2023年中期国际宏观经济展望:全球经济下行压力犹存

​2023年中期国际宏观经济展望:全球经济下行压力犹存,下行,美欧,外需,欧

2023-08-19 19:35:53

中信证券珠海机构招聘团队负责人(附报名入口)

​职位名称:团队负责人(业务总监)工作地点:珠海市招聘部门:中信证券华

2023-08-19 18:58:55

葛冲村(关于葛冲村简述)

​,你们好,今天0471房产来聊聊一篇冲村,冲村简述的文章,网友们对这件

2023-08-19 19:04:43

甘肃平均工资最新发布(持续更新)

​甘肃省平均工资(最新)2022年平均工资:一、城镇私营单位就业人员年平均

2023-08-19 19:04:12

格林又参与高端野球局!美记透露乌度卡密切关注:明夏冲击顶薪

​北京时间8月18日,杰伦-格林与霍姆格伦、杜兰特训练后又参与了一个高端

2023-08-19 18:58:13

这几个星座的爱情最纯粹!

​后台发送关键字“配对”[查看12星座配对表]后台发送关键字“星座”[快

2023-08-19 18:24:24

自研机器人超越小米、特斯拉?前“华为天才少年”稚晖君交出首份创业答卷

​本文来源:时代财经作者:谢斯临稚晖君,图片来源:发布会直播截图放弃

2023-08-19 18:20:33

中央台办负责人发表谈话就赖清德“过境”窜美表明严正立场

​中央台办负责人19日发表谈话,就赖清德“过境”窜美表明严正立场。

2023-08-19 18:01:52

中国船舶七一八所制氢装备、高端换热材料持续拓展市场

​近日,中国船舶集团七一八所在澳大利亚陆续签订三个项目,推进“中国造

2023-08-19 17:40:35

教你如何看清一个人的本质(教你如何看清一个人)

​来为大家解答以上的问题。教你如何看清一个人的本质,教你如何看清一个

2023-08-19 16:51:25

多数人都不知道的4种存款方式,不仅存款安全性,利息也十分可观

​大多数人都不知道的4种存款方式,不仅存款安全性高,利息也十分可观现

2023-08-19 16:24:12

8月18日基金净值:华夏永润六个月持有混合A最新净值0.9556,跌0.28%

​8月18日,华夏永润六个月持有混合A最新单位净值为0 9556元,累计净值为

2023-08-19 15:50:29

安徽省滁州市市场监管局:“随机查 随机检”“两超一非”在行动

​自食品安全“两超一非”活动开展以来,安徽省滁州市市场监管局围绕“两

2023-08-19 15:15:06