故事作者:feiwosicun

最近创作

看看TA的故事

【热门】现场调试“诡异”的浮点数

已锁定

feiwosicun

  • 帖子

    115
  • 精华

    0
  • 被关注

    6

论坛等级:侠客

注册时间:2016-09-20

钻石 钻石 如何晋级?

【热门】现场调试“诡异”的浮点数

2368

29

2023-09-04 13:36:25

案例来源:

曾经有一次去现场调试,做的是配方的应用,客户要求4种原料配方比例加起来,要满足100%才可以开机,

即配方比例1+配方比例2+配方比例3+配方比例4=100%,如果大于100%,或者小于100%,则无法开机。

每种原料的配方比例要求精度是小数点后3位,例如12.123。

本来以为挺简单,就把4个值,加起来做个比较就行了,然后诡异的事情就出现了。第一张图是在触摸屏上设的配方比例,总配方比例屏上显示的也是100%。但是,到程序里监控一看, 显示的99.99999,就是第二张图。这样就达不到开机条件了,当时真是愁死了。




后来,没有办法,加了个判断条件,总配方比例只要在99.9999和100.0001之间都允许开机,总算是解决了。

也是借这个案例,让论坛各位大神分析分析,为什么浮点数相加时会出现这种情况?我从现场调试来看,并不是所有时候相加时都会出现,是偶然事件。

【热门】现场调试“诡异”的浮点数 已锁定
编辑推荐: 关闭

请填写推广理由:

本版热门话题

网友专栏

共有3239条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。