`
ljxyuer
  • 浏览: 16466 次
  • 性别: Icon_minigender_1
  • 来自: 成都
文章分类
社区版块
存档分类
最新评论

actionscript 3.0 中如何控制Number类型数字精度(小数位数),解决计算不精确的问题

    博客分类:
  • Flex
阅读更多

很简单的一件事,但是如果不知道的话一样很麻烦。Number包里的两个方法可以轻松解决,而不是Math包里。

下面是官方文档:

 

   toFixed(3) 如何返回舍入到小数点后三位的字符串。

var num:Number = 7.31343;
trace(num.toFixed(3)); // 7.313

  toFixed(2) 如何返回添加尾随 0 的字符串。

var num:Number = 4;
trace(num.toFixed(2)); // 4.00

 toPrecision(3) 如何返回只包含三位数的字符串。 由于不需要指数表示法,因此字符串使用定点表示法。

var num:Number = 31.570;
trace(num.toPrecision(3)); // 31.6

  toPrecision(3) 如何返回只包含三位数的字符串。 由于结果数字中没有足够的位数来使用定点表示法,因此字符串使用指数表示法。

var num:Number = 4000;
trace(num.toPrecision(3)); // 4.00e+3
----------------------------------------------------------------------------------------------------------------------------------

注意哦 toFixed()和toPrecision() 返回的是String类型,而不是字符串类型。

另外Math包里的round() ,只能返回整数。
分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics