double型の小数点を含む掛け算
double a = 0.1 * 0.1;
では
0.01という値は帰ってこない。
これは丸めの誤差の関係で、意図していた値が欲しい場合には、
decimal
を使用する。
decimal b = (decimal)0.1 * (decimal)0.1
・教えて!goo C#の型について(doubleとdecimal)
http://oshiete1.goo.ne.jp/kotaeru.php3?q=1896052
double a = 0.1 * 0.1;
では
0.01という値は帰ってこない。
これは丸めの誤差の関係で、意図していた値が欲しい場合には、
decimal
を使用する。
decimal b = (decimal)0.1 * (decimal)0.1
・教えて!goo C#の型について(doubleとdecimal)
http://oshiete1.goo.ne.jp/kotaeru.php3?q=1896052