その他 小数データの有効桁数は?

対処方法

有効桁数はOSに依存しますので、

float 3.4E +/- 38 (7 桁)
double 1.7E +/- 308 (15 桁)

となります。


MicroAVSお問い合わせ窓口
MicroAVS評価版ダウンロード