Help us understand the problem. What is going on with this article?

JavaScriptの小数の計算の誤差を少なくする

More than 1 year has passed since last update.

小数を四則演算すると微妙な誤差が生じます。
消費税の計算などきっちりした値がほしいときには困ります。

10進数で計算すると誤差は生じないので変換して計算するというアプローチを取ります。

decimal.jsを使います。

インストール

es5を内部で使っているのでes5-shimをいれておきます。

bower install es5-shim
bower install "decimal.js"

上から順番にincludeしてください。

使ってみる

0.1 * 0.2をchromeで実行すると

0.020000000000000004

となります。

これをDecimalを使ってやると0.02でちゃんと出力してくれます。

    var a = new Decimal(0.1);
    var b = new Decimal(0.2);
    out = a.times(b).toNumber();

速度についても調べてみました。

  • ブラウザ Chrome
  • OS Yosemite 10.10

decimalJS: 4385.760ms
number: 2881.052ms

chromeの中でいい感じに解釈してそうな感もありますが、
思ったより遅くなかったです。
古いブラウザだともっと差がでそうな気もしますが。

検証ソース

(function () {
    var out;


    var a, b, c, d;

    a = new Decimal(0.1);


    console.time("decimalJS");
    for (var i=0;i < 100000;i++)
    {
        b = new Decimal(Math.random().toFixed(2));
        out = a.times(b).toNumber();
        $("#co").append(out + " ");
    }
    console.timeEnd("decimalJS");

    c = 0.1;
    console.time("number");
    for (var i=0;i < 100000;i++)
    {
        d = Math.random().toFixed(2);
        out = c * d;
        $("#co").append(out + " ");
    }
    console.timeEnd("number");
}());

coa00
frontend, node.js あたりの仕事をする人。エンジニアからディレクションまでなんでもやる人。フリーランスのお友達とお仕事くださいー。
http://coa.nu
Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away
Comments
No comments
Sign up for free and join this conversation.
If you already have a Qiita account
Why do not you register as a user and use Qiita more conveniently?
You need to log in to use this function. Qiita can be used more conveniently after logging in.
You seem to be reading articles frequently this month. Qiita can be used more conveniently after logging in.
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away
ユーザーは見つかりませんでした