資料室 > よくあるトラブル > 小数計算で結果が期待したものにならない

小数計算で結果が期待したものにならない

EXCELで小数を含む計算式の結果を確認した場合に期待した結果が返されない場合がある。原因は主に次の2つに分けることが出来る。

  1. 表示桁数と実際で扱う計算桁数の違い
  2. コンピューターの不動小数点計算誤差

前者はEXCELの設定で回避できる場合もあるが、後者の場合は計算式などを工夫する必要がある。
具体例として次のようなケースを考察する。

計算したセルをSUM関数で集計すると誤差

小数計算の誤差


前(日付のセルを参照しているセルが日付にならない) 目次 次(計算したセルをSUM関数で集計すると誤差)


SEO [PR] 爆速!無料ブログ 無料ホームページ開設 無料ライブ放送