首页 / JAVASCRIPT / javascript – JS浮点导致不正确的舍入

javascript – JS浮点导致不正确的舍入

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了javascript – JS浮点导致不正确的舍入，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1140字，纯文字阅读大概需要2分钟。

内容图文

我有可能是一个边缘案例场景.当试图将值4.015舍入到2位小数时,我总是以4.01而不是预期的4.02结束.对于所有以.015作为小数部分的数字,这种情况一致.

我在JS中使用了一个相当常见的方法：

val = Math.round(val * 100) / 100;

我认为问题在乘以100时开始.浮点不准确导致该值向下舍入而不是向上.

var a = 4.015,                // 4.015
    mult = a * 100,           // 401.49999999999994 (the issue)
    round = Math.round(mult), // 401
    result = round / 100;     // 4.01 (expected 4.02)

小提琴：http://jsfiddle.net/eVXRL/

如果我尝试围绕4.025这个问题不会发生. 4.03的预期值确实回归;这只是.015(到目前为止)的一个问题.

有没有办法优雅地解决这个问题？当然只是寻找.015和一次性处理这个案例的黑客,但这似乎是错的！

解决方法:

浮点数不是实数,它们是浮点数.

有无限数量的实数,但只有有限数量的位来表示它们,因此,如果您想要的确切数字无法在浮点系统中表示,则有时必须存在一些舍入误差.

因此,在处理浮点数时,您必须考虑到,您将不会拥有与您想到的完全相同的数字.
如果您需要一个确切的数字,您应该使用一个可以提供更好精度的库,通常它将使用fixed point和/或符号表示

更多信息可以在wikipedia page中找到,并且在这篇(有点复杂但重要的)文章中可以找到：What Every Computer Scientist Should Know About Floating-Point Arithmetic

内容总结

以上是互联网集市为您收集整理的javascript – JS浮点导致不正确的舍入全部内容，希望文章能够帮你解决javascript – JS浮点导致不正确的舍入所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

扫描二维码推送至手机访问。

本文链接：https://qyyshop.com/info/823358.html

来源：【匿名】