アカウント名:
パスワード:
一般の電卓はどういうアルゴリズムになっているのだろう電卓マニアさん、教えてください(電卓でIEEE754使っているということはないよね?)とか考えていたらやはり実装は色々みたいhttp://verifiedby.me/adiary/097 [verifiedby.me]
アプリではない普通の電卓は基本的にはBCDの浮動小数です。極少数binaryの電卓もありましたが、ほとんどはBCDです。例えばCasioやSHARPの関数電卓は内部的にはguard digit込みで15桁の精度があります。（表示は12桁）
すいません勘違いしていました。端数処理や桁落ち時の処理の話でしたね。仰る通り、この辺りは各社様々です。桁落ちの他にもπ/n rad付近の三角関数やべき乗の扱い方等メーカー毎に違いがでてきます。HPのように敢えて何もしないメーカーもあります。（だからsin(π)が0にならなかったりしますが設計思想の違いですね。）
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
ナニゲにアレゲなのは、ナニゲなアレゲ -- アレゲ研究家
計算機イプシロンとその周辺 (スコア:3, 興味深い)
一般の電卓はどういうアルゴリズムになっているのだろう
電卓マニアさん、教えてください
(電卓でIEEE754使っているということはないよね?)
とか考えていたらやはり実装は色々みたい
http://verifiedby.me/adiary/097 [verifiedby.me]
Re:計算機イプシロンとその周辺 (スコア:0)
アプリではない普通の電卓は基本的にはBCDの浮動小数です。
極少数binaryの電卓もありましたが、ほとんどはBCDです。
例えばCasioやSHARPの関数電卓は内部的にはguard digit込みで15桁の精度があります。（表示は12桁）
Re: (スコア:0)
すいません勘違いしていました。端数処理や桁落ち時の処理の話でしたね。
仰る通り、この辺りは各社様々です。
桁落ちの他にもπ/n rad付近の三角関数やべき乗の扱い方等メーカー毎に違いがでてきます。
HPのように敢えて何もしないメーカーもあります。（だからsin(π)が0にならなかったりしますが設計思想の違いですね。）