爱易网
IT新闻
IT新闻
爱易资讯
网站搭建
云虚拟主机教程
云服务器教程
Apache教程
IIS教程
Nginx教程
网站策划
站长文章
推广教程
淘宝客教程
网页设计
HTML教程
XHTML教程
CSS教程
HTML5教程
CSS3教程
JavaSript基础
JQuery教程
Node.js教程
前端技术
Ajax教程
Js特效
Xml教程
平面设计
页面UI设计
photoshop教程
程序开发
AI人工智能
Asp教程
Php教程
Asp.Net教程
Net Core教程
C#教程
Java教程
Jsp教程
开发技术
微信小程序教程
Uniapp开发教程
微信公众号开发
Andriod教程
IOS教程
DOS教程
Python教程
Docker教程
Windows Container教程
数据库
MSSQL教程
MySQL教程
Redis教程
Access教程
Oracle教程
数据库教程
操作系统
Linux教程
Windows教程
MAC教程
Cisco教程
交换机教程
防火墙教程
搜索
爱易网页
数据库教程
计算时精度导致的小错误
计算时精度导致的小错误
日期:2014-05-16 浏览次数:20684 次
计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候,出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。
最后发现原来计算的结果精度很高,是0.0037774999999虽然显示的是0.0037775,进位的时候就会发生这种情况。
解决方法是先round 第7位,再round第六位
上一篇: CCNP_route札记6 关于OSPF中的hello和DBD顺序
下一篇: [转]oracle临时表有关知识
免责声明:
本文仅代表作者个人观点,与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
相关资料
更多>
MongoDB 小弟我得到了WEB前后端数据通讯接口的思路
Android 开发中运用 SQLite 数据库
绑定变量与非绑定变量资源消耗对照
Oracle表的惯用查询实验(一)
以命令行模式创建、执行、删除job
Oracle 数据库惯用的函数
sqlplus联接远程数据库(转)
Druid数据库连接池公布0.1.8版本
学习数据库的记要
推荐阅读
更多>
RMAN 系列(5),RMAN 还原 与 恢复
mysql_install_db出现如上异常
全息日志子系统功用简介
php数据库备份跟恢复
目录与优化like查询【转】
Oracle start with.connect by prior用法(备忘)
一致项目管理平台(UMPlatForm.NET)-5.2 数据库连接管理模块
查询不同月度不同客户的数据记录
数组集合部类 index table
Oracle 透过触发器实现主键自动增长
JVM监控工具介绍jstack, jconsole, jinfo, j地图, jdb, jstat(2)
SQL Server “sa” 登陆失败+复原备份数据库内存限制
数据库搞得人心烦意乱
oracle主键自动增长的设立
客户端联接间歇性失败
Delphi之经过ADOX操作access数据库的方法
lock is locked. waiting 十 seconds for the database to be unlocked
Linux上创建Sybase数据库
DWR 兑现单向聊天【二:页面显示】 功能登录显示登录用户【无数据库操作】
指定的节点没法集群化所有可能原因分析