電卓で一気に計算すると失敗するのですがなんででしょうか。 62038×0.139÷73735×0.0

電卓で一気に計算すると失敗するのですがなんででしょうか。
62038×0.139÷73735×0.065−1と電卓で打つと答えと違うのですが、、、

No.6 回答者： 真魚 回答日時： 2021/04/22 17:10

スマホ（Android）の標準の電卓アプリでは、

62038×0.139÷73735×0.065−1　＝　-0.99239827
でした。

別のツールで計算して結果が微妙に違うことを「失敗」と言っているのであれば、小数部の有効桁数の違いが原因と思われます。

そもそも、電卓でもパソコンでもスマホでも、コンピューター内部で扱う2進数では、小数部を正確に表すことができません。
一定範囲内の「近似値」で表すので、誤差が出るのは仕方がないことです。

計算方法の間違いによる「失敗」であれば、具体的な説明がないと他人にはわかりません。

No.5 回答者： 真魚 回答日時： 2021/04/22 16:56

パソコンの表計算ソフト（Excel）の場合。

別々に計算しても１つの式で計算しても結果は同じです。（当然）
　　↓

No.4 回答者： 真魚 回答日時： 2021/04/22 16:55

62038×0.139÷73735×0.0 = 0　←最後に掛けた 0.0 が効いています。

62038×0.139÷73735×0.065−1 の計算結果は

Windows10の電卓の場合。
途中経過は右側の履歴を参照（下から順に）
　　↓

No.3 回答者： て2くん 回答日時： 2021/04/19 00:04

一般的な電卓とか一般的な関数電卓とかでも

-0.99239827314029972197735とかになります。

違うってどのようになったのですか？

No.2 回答者： yucco_chan 回答日時： 2021/04/18 21:49

約－０．９９２４になりますが、

スレ主さんの期待値は？

No.1 回答者： qox67 回答日時： 2021/04/18 21:45

で、あなたの答えは何だったのですか？

私の答えは-0.9923982731402997となりました