笨蛋!连0.2这么简单的数字都搞不定!你被炒了!
数据库 2025-10-09 18:12:25
0
后记:
计算机的笨蛋不定被炒本质决定了它是一个二进制的世界,人类熟悉的连简十进制数字需要转行成二进制才能被计算机处理。但是单的都搞这个转化的过程却会遇到问题。从漫画中可以看出十进制整数都能精确地转化为二进制表示,数字但是笨蛋不定被炒十进制小数却并不一定。你可以用你熟悉的连简编程语言如Java、Python,站群服务器单的都搞 JavaScript快速地重现这一现象。数字
对于工程计算和科学计算,笨蛋不定被炒一个非常近似的连简二进制小数是可以满足要求的,但是单的都搞在商业计算尤其是金融领域,必须要精确地表示,数字精确地计算,笨蛋不定被炒这个时候就不能直接使用float,连简double等类型了,b2b信息网单的都搞需要用一个工具类如BigDecimal来进行处理。
值得注意的是,国际上对浮点数的存储制定了规范,即IEEE 754, 这个存储格式略为复杂,但其不能精确表示十进制小数的本质是不变的。