博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
关于float、double结果精度的问题
阅读量:6968 次
发布时间:2019-06-27

本文共 284 字,大约阅读时间需要 1 分钟。

一个例子: 

            int a2 = 7;

            int b2 = 26;

            float result2 = b2 / a2; // 结果是 3.0 

    结果确是3.0,而不是期待的结果:3.71.这是因为等号右边的两个变量都是整数int,得到的结果也类似与整数。

 

修改如下:

            int a2 = 7;

            int b2 = 26;

            float result2 = (float)b2 / a2; // 结果是 3.71,与期待结果一致。

 

    此外,double类型,同float一样,存在相同的问题。

转载于:https://www.cnblogs.com/dblg/p/5443111.html

你可能感兴趣的文章
如何让你的网站拥有网盘功能, 一分钟搞定
查看>>
行李箱品牌“July”完成数百万元天使轮融资
查看>>
group by,where,having之间的区别和用法
查看>>
HashMap VS Hashtable
查看>>
MySQL-To-JSON 的 Kafka 生产者
查看>>
[网络篇]ESP8266-SDK教程(五)之SmartConfig、Airkiss等多种配网方式
查看>>
C4C销售订单中业务伙伴的自动决定功能Partner determination procedure
查看>>
关于Java序列化你不知道的事
查看>>
使用 HTML5,通过创建 cache manifest 文件,可以轻松地创建 web 应用的离线版本。...
查看>>
项目管理助力组织赢在VUCA时代
查看>>
ybg_auth 4.2 版本发布,基于微服务开发业务框架
查看>>
浏览器事件机制中事件触发三个阶段?
查看>>
Python数据分析之糗事百科第二弹
查看>>
[剑指offer] 二叉搜索树与双向链表
查看>>
Java集合框架源码解析之LinkedHashMap
查看>>
读《学习之道》— 放松点,有时候太勤奋也是一种病
查看>>
王者荣耀使用什么编程语言开发的?
查看>>
Kubernetes-离线部署Kubernetes 1.9.0
查看>>
实验吧---忘记密码了
查看>>
C/C++中int128的那点事
查看>>