当前位置: 首页 > 科技观察

如何使用Python进行正确的舍入?这个坑有点大

时间:2023-03-19 00:46:48 科技观察

本文主要分享爬取基于python的三方数据分析库pandas和numpy的经验。发现并分析了python语言中浮点数处理不准确的问题,最终给出了合理的解决方案。计划。如果你也是用python处理数据的话,建议看一看,毕竟0.1的误差可能会造成比较大的影响。早上到公司就出现问题,领导发了好几个文件,说这两天测试环境的数据和实际不一样,看看是哪里出了问题,解决了尽快...开始排查,先对比数据,发现并不是所有的数据都有问题,只有10%左右的数据有这个问题,说明应该不是逻辑问题。初步判断可能是个别情况需要特殊处理,考虑不周导致检查整理各种计算模块。使用debug一波断点调试,最终确定是数据偏差的模块,单独测试这个单元模块。有一个问题涉及结果为0.5(浮点数)的两个数的相除。预期结果:np.round(0.5)=1,实际计算结果:np.round(0.5)=0,所以做了如下实验#基于python3.7版本>>>importnumpyasnp#先看结果0>>np.round(0.50)0.0>>>np.round(0.51)1.0>>>np.round(0.49)0.0#我很担心只有小数点为.5才会出现这种问题,于是测试了x>1的结果,发现还是有问题>>>np.round(1.5)2.0>>>np.round(2.5)2.0>>>np.round(3.5)4.0>>>np.round(4.5)4.0通过对比,发现.5的值确实和我预想的不一样。我们来看看问题的分析原因。查了一下浮点数(.5理解上有偏差),看看官方文档是怎么解释这个现象的(.5)正好在四舍五入的十进制值之间,NumPy将四舍五入到最接近的偶数。#因此1.5和2.5四舍五入为2.0,-0.5和0.5四舍五入为0.0,依此类推。Forvaluesexactlyhalfwaybetweenroundeddecimalvalues,NumPyroundstothenearestevenvalue.Thus1.5and2.5roundto2.0,-0.5a??nd0.5roundto0.0,etc.#np.around使用一种快速但有时不精确的算法来舍入浮点数据类型。#Forpositivedecimals,itequivalenttonp.true_divide(np.rint(a*10**decimals),10**decimals),#duetoIEEEfloatingpointstandard[1]和缩放到幂时引入的错误tennp.aroundusesafastbutsometimesinexactalgorithmtoroundfloating-pointdatatypes.Forpositivedecimalsitisequivalenttonp.true_divide(np.rint(a*10**decimals),10**decimals),whichhaserrorduetotheinexactrepresentationofdecimalfractionsintheIEEEfloatingpointstandard[1]anderrorsintroducedwhenscalingbypowersoften其实也就是说:对于带有.5这种刚好介于中间的值,返回的是相邻的偶数白话解释:如果一个数有浮点数(.5),且整数部分是偶数,则返回偶数;整数部分为奇数,则返回奇数+1。如果整数部分能被2整除,则返回整数部分;如果整数部分不能被2整除,返回整数部分+1解题,不做任何改动,看数据出错的情况=pd.DataFrame({"num1":[1,1,1.5,5,7.5],"num2":[2,3,1,6,3]})df["真实值"]=df["num1"]/df["num2"]#看后的结果roundfunctiondf["deviationvalue"]=np.round(df["num1"]/df["num2"])原结果图如下我的解决方法是处理期望值和偏差值不相等。根据我的精度要求,我构造精度范围需要保留的小数点最后一位,通过这个数是否为5来判断是否需要四舍五入。比如说,在这种情况下,我只需要保留数据的整数部分,那么我只需要判断小数点后第一位是不是数字5个就够了。上面代码importpandasapdimportnumpyasnpimportmathdf=pd.DataFrame({"divisor":[1,1,1.5,5,7.5],"dividend":[2,3,1,6,3]})#记录真实值df["truevalue"]=df["divisor"]/df["dividend"]#记录整数部分df["辅助整数列"]=df["truevalue"].apply(lambdax:math.modf(x)[1])#记录小数部分,因为我最终结果的精度只有整数部分,所以我只需要保留一个小数点来判断是否需要进行进位操作df["辅助小数列"]=df["trueValue"].apply(lambdax:str(math.modf(x)[0]).split(".")[1][0])#小数点后第一位为5,则四舍五入,如果不是5,就调用原来的np.rounddf["expectedvaluecorrection"]=df.apply(lambdax:x.auxiliaryintegercolumn+1if(x.auxiliarydecimalcolumn=="5")elsenp.round(x.truevalue),axis=1),结果如下:已经达到预期修正值