注册域名之后如何做网站,网站如何分页,seo排名专业公司,天津网站网站建设文章目录问题解决注意问题
go float 在运算的时候会出现精度问题
package mainimport (fmt
)func main() {var a float64 0.3var b float64 0.6fmt.Println(ab, ab) // 你以为是 0.9 但是结果是#xff1a;0.8999999999999999
}你观察到的 0.3 …
文章目录问题解决注意问题
go float 在运算的时候会出现精度问题
package mainimport (fmt
)func main() {var a float64 0.3var b float64 0.6fmt.Println(ab, ab) // 你以为是 0.9 但是结果是0.8999999999999999
}你观察到的 0.3 0.6 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况 解决
使用 decimal 包解决 golang 浮点数运算失真
代码如下
package mainimport (fmtgithub.com/shopspring/decimal
)func main() {var a float64 0.3var b float64 0.6a1 : decimal.NewFromFloat(a)b1 : decimal.NewFromFloat(b)fmt.Println(ab, a1.Add(b1)) // 0.9
}注意
decimal建议只用做 float 计算不建议用来字符串和浮点数之间转换: decimal.NewFromString(“1”) , 大量数据计算下性能差
原文地址
使用 decimal 包解决 go float 浮点数运算失真
