
No.5ベストアンサー
- 回答日時:
>簿記に使う電卓は内部で2進化10進数を使った計算をしているモノを使いましょう。
2進化10進数を使うだけでは 1÷3X3=1 にはなりません。1を表示する電卓は、
表示しない余分な桁まで計算して、表示時に非表示桁で丸めて表示しているのです。
計算誤差が計算結果から消えるわけではありません。有限桁で計算する以上、
計算誤差を避ける確実な方法はありません。
No.7
- 回答日時:
二進化十進数では、この問題の解決にはなりませんが、
内部計算を分数で行える処理系なら、大丈夫です。
電卓ではないけれど、こういう↓ソフトもありますよ。
http://hp.vector.co.jp/authors/VA008683/
(「有理数モード」を使う。)
No.6
- 回答日時:
ちなみに Excel は裏でいろいろと姑息なことをして「きちんと計算できている」ように見せかけています. なまじ「見せかけている」
分だけ, かえって質が悪かったりしますが....No.3
- 回答日時:
電卓はどうしても桁数に限度が有るので、誤差というものが出てしまいます。
先の方が書かれている例題(1÷3×3など)その典型です。人間は、或る程度の≪まるめ≫を無意識にやっています。試しにパソコンのEXCELでこの計算式を入れ、列幅を変えたり、書式を変えたりしてみて下さい。面白いと思いますよ。
No.2
- 回答日時:
電卓の中身は2進数で計算されているので、そうなるんですよ。
有名なのは
1÷3×3
ですね。
0.9999999999
になっちゃうんです。
簿記に使う電卓は内部で2進化10進数を使った計算をしているモノを使いましょう。
これなら
1÷3×3
を計算しても答えは1になります。
…
難しく考えちゃダメ。
1÷3×3
お店でこの計算をして1が返ってくる電卓を買えば良いんです。
No.1
- 回答日時:
最初の割り算が、割り切れないからです。
こんなことは、2÷3×6などでも起こりますよ。この場合も、分数表記で、分子に2×6、分母に3を持ってくれば、解決するんですがね。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 時計・電卓・電子辞書 電卓 2 2023/04/20 21:44
- 数学 ピラミッド計算の仕方を教えて下さい。 5 2023/01/03 16:04
- その他(職業・資格) 資格取得したけど、意味がない 9 2022/06/01 10:52
- 固定資産税・不動産取得税 中古マンションの土地・建物割合について 1 2022/06/02 15:06
- 夫婦 昨日旦那と口論になり、旦那にいつも使っていた電卓を壊されてしまいました。旦那はむずかしい計算をしない 5 2023/02/05 21:09
- 計算機科学 この計算合っていますか? 1 2022/07/28 06:27
- その他(生活家電) 溶接機の消費電力計算方法について 1 2023/08/23 15:57
- フィナンシャルプランナー(FP) 退職所得控除の計算式がどうしても出来ない 2 2023/01/11 15:10
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- C言語・C++・C# C言語 3 2022/10/04 15:07
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
電卓の使い方 乗数はどうした...
-
この180➗204の計算の仕方教えて...
-
このルートの前についてるちっ...
-
平方根の問題で小数第1位の数...
-
数学の問題の質問です! 標準偏...
-
1,1の10乗の計算の仕方
-
医療費の10割料金の求めかた
-
電卓で「1/x」キーが無い時、同...
-
exp 関数? 数学?
-
ln、expの電卓関数の使い方が分...
-
電卓で、○の(小数点)乗を計算し...
-
-0.x乗の意味が分からないんで...
-
ルートの計算
-
四則計算。前から計算すると答...
-
2
-
Xの2乗=0.000514
-
直角三角形の、ある1辺の長さの...
-
指数関数の3√760という問題につ...
-
シャープ電卓でEXPのマイナス乗...
-
電卓での計算がわかりません。
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
電卓の使い方 乗数はどうした...
-
医療費の10割料金の求めかた
-
このルートの前についてるちっ...
-
ln、expの電卓関数の使い方が分...
-
√の電卓での計算について
-
120点満点を100点に換算するには?
-
1,1の10乗の計算の仕方
-
1.5乗を電卓で計算できるの?
-
電卓で「1/x」キーが無い時、同...
-
logの計算式です。仕事で必要で...
-
計算問題です。100万×(1+0...
-
sinθ=0.4 の θの求め方 (関...
-
電卓で、○の(小数点)乗を計算し...
-
二乗の逆求め方について
-
exp( )の計算の仕方
-
この180➗204の計算の仕方教えて...
-
√0.3って??いくつか知りたい...
-
14%引きの計算方法を教えて...
-
2の2乗は4、では2の0.25乗は?
-
大学数学です
おすすめ情報