1. 爱易网页
  2. 数据库教程
  3. 计算时精度导致的小错误

计算时精度导致的小错误

日期：2014-05-16　 浏览次数：20435 次

计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候，出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。

最后发现原来计算的结果精度很高，是0.0037774999999虽然显示的是0.0037775，进位的时候就会发生这种情况。

解决方法是先round 第7位，再round第六位

相关资料更多>

  1. JSP网站首页访问自动跳转到一个action通过调用数据库后再返回首页
  2. Android实训课程之一改错The connection to adb is down, and a severeerror has occurred
  3. Flex与Java调整连接数据库的实例
  4. 一个高效率的数据分页的存储过程 可以轻松应付百万数据
  5. 坚持Oracle数据库优秀功用的若干窍门
  6. 记要oracle 关联更新的例子
  7. ORACLE11g关于用户密码过期的有关问题解决
  8. SpringJdbc的使用举例
  9. SQL Server 2005数据库视频8-增删节操作