turn off的用法总结:两个不同的数……
来源:百度文库 编辑:高校问答 时间:2024/10/06 01:21:27
用信利107A计算器:
811/255的结果开20次方,得到1.059946863
而
811/255的结果开20次方,减1,得到0.059946862
最后一位一个是3,一个是2?
811/255的结果开20次方,得到1.059946863
而
811/255的结果开20次方,减1,得到0.059946862
最后一位一个是3,一个是2?
下面是33精度的计算结果。
811/255的结果开20次方=
1.059556289256788370282261652764
811/255的结果开20次方,减1
0.059556289256788370282261652763988
用信利107A计算器的计算精度为9位。
四舍五入嘛
是计算器程序的问题
我的CASIO fx-991ms 得到的是 1.059556289
我的ENKO KK-105B得到的是 1.059556289