查看: 1605|回复: 8

为什么会出现 0.03+0.01 = 0.039 的情况啊

4 主题	7 帖子	0 精华

高级会员

Rank: 4

积分: 793

威望: 414
贡献: 253
兑换币: 261
注册时间: 2016-10-15
在线时间: 63 小时
毕业学校: 洛克一中

电梯直达

1^#

发表于 2017-9-30 19:22:57 | 只看该作者回帖奖励

|倒序浏览 |阅读模式

为什么会出现 0.03+0.01 = 0.039 的情况啊，我用的山外的库，芯片用MK60DN512Z

分享到: 微信

收藏1 转播分享顶0 踩0

使用道具举报

tangchen

1 主题	15 帖子	0 精华

金牌会员

Rank: 6 Rank: 6

积分: 1711

威望: 885
贡献: 550
兑换币: 455
注册时间: 2015-9-13
在线时间: 138 小时
毕业学校: CSUST

2^#

发表于 2017-9-30 23:47:55 | 只看该作者

0.039999999

回复支持反对

使用道具举报

aytc100

56 主题	4914 帖子	3 精华

顶级版主

北京科技大学智能汽车队公共主页管理员

Rank: 11

积分: 56131

威望: 19568
贡献: 13933
兑换币: 3365
注册时间: 2010-7-22
在线时间: 11315 小时

3^#

发表于 2017-9-30 23:51:37 | 只看该作者

浮点数计算精度误差

回复支持反对

使用道具举报

六步上篮

28 主题	2228 帖子	1 精华

杰出人士

Rank: 12

积分: 15822

威望: 7433
贡献: 4215
兑换币: 5195
注册时间: 2013-12-9
在线时间: 2087 小时

4^#

发表于 2017-10-1 08:38:49 | 只看该作者

浮点数只有0.5能精确表示，其他都是近似的有误差

回复支持反对

使用道具举报

星空_xALOC

11 主题	368 帖子	0 精华

常驻嘉宾

Rank: 8 Rank: 8

积分: 4377

威望: 2287
贡献: 1340
兑换币: 1240
注册时间: 2017-2-21
在线时间: 375 小时

5^#

发表于 2017-10-3 15:31:14 | 只看该作者

应该是数据类型的精度的问题

回复支持反对

使用道具举报

huangzhenran

11 主题	60 帖子	0 精华

高级会员

Rank: 4

积分: 575

威望: 389
贡献: 128
兑换币: 72
注册时间: 2010-3-6
在线时间: 29 小时

6^#

发表于 2017-10-3 17:57:40 | 只看该作者

可能0.01是0.008或者其他数四舍五入得到的，所以两个数相加就。。

回复支持反对

使用道具举报

eagle丶

18 主题	538 帖子	0 精华

常驻嘉宾

Rank: 8 Rank: 8

积分: 3571

威望: 2352
贡献: 593
兑换币: 1447
注册时间: 2016-8-9
在线时间: 313 小时

7^#

发表于 2017-10-4 15:21:04 | 只看该作者

数据类型惹的祸吧

回复支持反对

使用道具举报

田果

1 主题	12 帖子	0 精华

注册会员

Rank: 2

积分: 142

威望: 80
贡献: 46
兑换币: 49
注册时间: 2017-10-6
在线时间: 8 小时

8^#

发表于 2017-10-6 10:35:14 | 只看该作者

没遇到过

回复支持反对

使用道具举报

浩劫Calamity

3 主题	161 帖子	0 精华

金牌会员

Rank: 6 Rank: 6

积分: 1776

威望: 876
贡献: 554
兑换币: 585
注册时间: 2014-8-2
在线时间: 173 小时
毕业学校: 华南五山禅院

9^#

发表于 2017-10-17 18:54:18 | 只看该作者

建议查一下浮点数的结构

回复支持反对

使用道具举报

返回列表

		自动登录	找回密码
密码			注册

为什么会出现 0.03+0.01 = 0.039 的情况啊

特殊贡献奖章

资源大师奖章

论坛骨干奖章

推广达人奖章

优秀版主奖章

热心会员奖章

论坛元老奖章

在线王奖章

活跃会员奖章

优秀会员奖章