google 電卓機能
google には google 電卓機能 というものがあります。
検索語のかわりに数式をいれると計算してくれるんです。
でも、この google 電卓機能、10進数を2進数に変換して演算してるため、小数演算で誤差（丸め誤差）がでてしまう。
例えば、
ちなみに複素数でも同じことが起こったり...。（まぁ、同じ精度の変数二つだから当然なんだけど）
みなさん、利用時には気をつけましょう！
検索語のかわりに数式をいれると計算してくれるんです。
でも、この google 電卓機能、10進数を2進数に変換して演算してるため、小数演算で誤差（丸め誤差）がでてしまう。
例えば、
0.1+0.4とかは普通に 0.5 とでるんだけど、
0.3-0.1-0.2は 0 とならず、とんでもない値になってしまう。
ちなみに複素数でも同じことが起こったり...。（まぁ、同じ精度の変数二つだから当然なんだけど）
e^((1.5 pi i)+ln(0.2)) +0.1i +0.1iこれも 0 にならないんです。
みなさん、利用時には気をつけましょう！
Comments