cos(π/2)が0にならない
またしてもredditネタ。
deliのfx-82MSクローンであるD82MSでは、$ \cos\frac{π}{2} $ が $0$ ではなく $-5×10^{-12}$ に、$ \tan\frac{π}{2} $ がエラーではなく $-2×10^{11}$ になってしまうというもの。
そこで手持ちの関数電卓で試してみたところ、fx-82MSクローンであるJOINUS JS-82MS-Aが同じような結果を出した。
ちなみにHPクローン機DM42でも同様の小数誤差が生じ、
HP Primeに至っては $ \sin π $ ですら小数誤差が生じるようである。
式変形で 0x になるような計算でも x の値が求まってしまう
お次はソルブ機能。
$4x+11=4x-24$ を式変形すると $0x=-35$ となり、どう考えても解けない。
が、式変形をせずに反復法で計算を続けてしまえば、大きな値を$x$に代入した場合、内部精度の関係で両辺の差が0になる、つまり見かけ上解となってしまう。
- $x=2.951479051×10^{13}$ (NEWYES 991MS)
- $x=1.1×10^{14}$ (RedditのESクローン、D991CN)
- $x=7.555786×10^{22}$ (D992CN Pro…1回目はL-R≠0、2回目で出たxの値)
- $x=1×10^{36}$ (SS-991EX、UC-800X)
- $x=1×10^{38}$ (FC-991CN)
などの解に意味はない。
カシオ機・キヤノン機であればCan't Solve(解を求めることができません)と表示される。