重庆网站建设平台,凤凰军事新闻,dede微电影网站模板,dns是不是做网站用的目标 由于浮点数有漂移问题#xff0c;转成字符串时 3.6 有可能得到 3.6000000000001#xff0c;总之很长的一串#xff0c;通常需要截取#xff0c;但按照固定长度截取不一定能使用各种情况#xff0c;如果能根据数值大小保留有效位数就好了。
C#实现 我们可以在基础库里…目标 由于浮点数有漂移问题转成字符串时 3.6 有可能得到 3.6000000000001总之很长的一串通常需要截取但按照固定长度截取不一定能使用各种情况如果能根据数值大小保留有效位数就好了。
C#实现 我们可以在基础库里增加一个扩展类给double, float 一个ToFixed 扩展方法注意该类不要有命名空间否则调用时还要加上 using 才能找到。
using System;public static class DoubleExtensions
{public static string ToFixed(this double d, int accLen 3){return toFixed(d, accLen);}public static string ToFixed(this float d, int accLen 3){return toFixed(d, accLen);}private static string toFixed(double d, int accLen){var abs Math.Abs(d);if (abs 0) return 0;int fixedlen accLen - (int)Math.Log10(abs);fixedlen Math.Max(0, fixedlen);return d.ToString($F{fixedlen});}
}
JavaScript实现 实现思路相同需要的话可以封装一下再用。
var fixedlen 0;
if (Math.abs(value) 1000 value ! 0)fixedlen 3 - Math.log(Math.abs(value)) / Math.LN10;
value value.toFixed(fixedlen);
测试结果
