理論:
把測量量滿值等份成4095份。實測值乘以一份的量
工程值=測量值*0.34188034188034188034188034188034
阻礙:
單份非整形數(shù)據(jù),需浮點計算
解決方法:
1、轉(zhuǎn)換為浮點數(shù)后計算
優(yōu)點:精度
缺點:運行速度、寄存器使用量
注意:1N是否支持FLT和INT這兩個數(shù)據(jù)轉(zhuǎn)換指令未知。起碼我知道2N以上有……
2、將數(shù)值翻倍后取整
優(yōu)點:速度、寄存器使用量
缺點:精度
注意:單一寄存器有效最大無符號整形數(shù)為65535。設置倍率時需留意計算值范圍。窮舉推算的結(jié)果最合適倍率為6倍,誤差-2.5%