久久久久久久香蕉,欧美日韩在线一二三,国产成人精品国内自产拍免费看

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數(shù)運算

kongqigg

級別: 正式會員

精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

樓主發(fā)表于: 2015-01-15 17:25

全看 | 小中大

DEBCD指令得到的數(shù)值是錯的？為什么？？請大俠指點。

kongqigg

級別: 正式會員

精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

1樓發(fā)表于: 2015-01-15 18:51

全看 | 小中大

我以為DEBCD指令得到結果是100000，但是不知道為變大了

kongqigg

級別: 正式會員

精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

2樓發(fā)表于: 2015-01-16 11:38

全看 | 小中大

引用
引用第4樓niningtt于2015-01-15 20:45發(fā)表的 :
你需要將浮點數(shù)轉換成整數(shù)也就是100000.0轉成INT100000，
錯誤原因，1、BCD碼轉化也不是將浮點數(shù)轉為整數(shù) 2、直接用浮點數(shù)轉BCD也是錯誤的做法，

我后來把debcd改了，改成INT就好了，但是我還是不太清楚，第一次用浮點數(shù)，謝謝指點。

kongqigg

級別: 正式會員

精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

3樓發(fā)表于: 2015-01-16 13:31

全看 | 小中大

引用
引用第5樓hsqknx于2015-01-15 21:21發(fā)表的 :
結果不是你這么用的，DEBCD得出的是10進制小數(shù)，會有誤差

那個程序里面還有一段跟這個差不多的，那里的BCD指令得出來的結果是正確的。
所以我很納悶
求高人指點。

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數(shù)運算

http://m.gangbaxian.cn
訪問內容超出本站范圍，不能確定是否安全
繼續(xù)訪問	取消訪問

久久免费视频在线观看6_成人精品一区亚洲午夜久久久_久久www视频_天天干干夜夜_日本一区二区三区视频在线播放_亚洲va视频