std::numeric_limits<float>epsilon()

这个函数返回的是机械极小值(machine epsilon),是计算机计算的最小精度,这个值常被用来处理浮点数的相等判断时产生的无法完全相等的问题

在二进制计算中0.2+0.1=0.3,会因为二进制浮点数的极小误差导致判断为false,需要引入一个极小的值作为 容差

全部评论

相关推荐

码砖:求职岗位要突出,一眼就能看到,教育背景放到最后,学校经历没那么重要,项目要重点突出
点赞 评论 收藏
分享
07-16 14:10
门头沟学院 Java
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务