手机版
贴心博客(Imblog)(LOGO)

贴心博客(Imblog)

v5.7

基于`jquery2+bootstrap4+贴心猫`开发

银行几万亿,算大数字吗?

发布:2022-01-06 19:42   点击:3次   评论:0
https://www.zhihu.com/question/368426621 作者:知乎/孔乙己 https://www.zhihu.com/question/368426621/answer/994084347 银行几万亿,算大数字吗?我也不确定,我就听过数学专业有个大数专业,据说,几万亿这种都不是他们专业要研究的,这些都是小数…… 我想起有一次我搞地球椭球投影。用书上给的公式算,算出来,精度差几毫米。我觉得,地球这么大的东西,误差个几毫米不很正常吗? 结果被我们领导训了一顿,我们领导是中科院的副教授,说double的精度对于几千公里,绝对是够的。结果差这么多,这不是误差,这是错误。 我当时不服气,觉得书上怎么可能错呢。我就上网找了个大数运算库,据说可以精度到小数点后上百位,结果用这个库的计算结果,“误差”还是很大。 后来我潜心推导,泰勒展开一项一项展,发现书上到处是印刷错误。用自己推导出来的高精度公式,一算,精度可以达到千分之一毫米。 自从那以后,我就相当佩服我们领导。 另外,你说用double溢出的问题。其实double的小数精度非常高,你用它来记录钱(只需要保存小数点后2位),小数部分的精度就浪费了。 其实数据库方面,有个叫money的类型,同样的字节数,它只保存2位小数,前面整数部分就可以存多得多的数。 我们在C++业务实现端一般不会出现太大超过double的数的。累加的大数,交给数据库处理就好了。
评论(0条) 评论列表
 

公司简介 企业文化 服务内容 公司新闻 公司图片 常见问题 联系我们 责权申明

贴心博客(Imblog)基于`jquery2+bootstrap4+贴心猫`开发; QQ群:607070548; 粤ICP备07020797号

Run:2.168/21.852(ms); 3(sql)/2.176(MB); v4:info/detail; Upd:2024-04-30 04:07:21