[H8-ML(4653)] Re:これも訂正です( Re: H8/3052で浮動小数点演算がうまくできず困っています。)
From: Sawaguchi Yuji <issho@xxxxxxxxxxxxxxxxxx>
Date: 2004年04月10日(土)07時43分47秒
澤口@一升金です。

HSSRさんの<20040410005645.1F0E.HSSR@xxxxxxxxxxxxxxxx>から
>演算元の数値によって出たりでなかったりというやっかいなバグになります
>最終的には2進演算なので誤差が発生します。通常は無視できる誤差かもしれま
>せんが等号の演算の場合にはあくまで違う数値と見なされます
理論上は誤差なしで一致するはずの計算式の値が一致しないことは
ざらですし、printf やデバッガで表示させて一致していても比較上
では不一致となることがあります。
まぁ、それ以前に組み込みアプリで浮動小数点演算がメリットのある
ケースというのはまずお目にかかったことがありません。
スレッド概略
[4619(R)](起点)
 └[4652(U)]
   └[表示中]


投稿順に移動
[←前の記事へ(P)]
[→次の記事へ(N)]


リスト表示へ
[このスレッド(T)]
[本記事の前後(L)]