callowtramp 发表于 2016-6-29 08:47:18

9860编程,如何实现取整函数?

9860编程,如何实现取整函数?
请教高手,在9860编程时,如何实现,计算保留小数点后几位数,如6.765132689 取6.765
也就是想excel或者vb里面的round函数

Mike 发表于 2016-6-29 12:24:52

C还是BASIC?

juntokov 发表于 2016-6-29 13:19:00

用Rndfix()即可,例如图中是把保留圆周率的3位小数

chuxianbing 发表于 2016-10-3 18:00:57

对于小的数值可以a= ((int)(a*1000+0.5))/1000;这个好像没什么意义吧,数值最终是要显示的,控制显示位数就可以了

nirvana1980 发表于 2016-11-15 17:53:36

操作步骤:编程模式下
SHIFT+MENU(SET UP 设置功能)+F6(下一页)+F1(DISP 显示)+F1(Fix ) 然后填写你需要保留的位数
编程语句初始一般:设置角度(deg)或其他 及保留小数位数

nirvana1980 发表于 2016-11-15 17:58:03

取整函数 INT取小数函数Frac 都可以在CATALOG 中调用
页: [1]
查看完整版本: 9860编程,如何实现取整函数?