【アプリ版】サポートOS変更のお知らせ

電卓で一気に計算すると失敗するのですがなんででしょうか。
62038×0.139÷73735×0.065−1と電卓で打つと答えと違うのですが、、、

gooドクター

A 回答 (6件)

スマホ(Android)の標準の電卓アプリでは、


62038×0.139÷73735×0.065−1 = -0.99239827
でした。

別のツールで計算して結果が微妙に違うことを「失敗」と言っているのであれば、小数部の有効桁数の違いが原因と思われます。

そもそも、電卓でもパソコンでもスマホでも、コンピューター内部で扱う2進数では、小数部を正確に表すことができません。
一定範囲内の「近似値」で表すので、誤差が出るのは仕方がないことです。

計算方法の間違いによる「失敗」であれば、具体的な説明がないと他人にはわかりません。
    • good
    • 0

パソコンの表計算ソフト(Excel)の場合。



別々に計算しても1つの式で計算しても結果は同じです。(当然)
  ↓
「電卓で一気に計算すると失敗するのですがな」の回答画像5
    • good
    • 0

62038×0.139÷73735×0.0 = 0 ←最後に掛けた 0.0 が効いています。



62038×0.139÷73735×0.065−1 の計算結果は

Windows10の電卓の場合。
途中経過は右側の履歴を参照(下から順に)
  ↓
「電卓で一気に計算すると失敗するのですがな」の回答画像4
    • good
    • 0

一般的な電卓とか一般的な関数電卓とかでも


-0.99239827314029972197735とかになります。

違うってどのようになったのですか?
    • good
    • 0

約-0.9924になりますが、


スレ主さんの期待値は?
    • good
    • 0

で、あなたの答えは何だったのですか?



私の答えは-0.9923982731402997となりました
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

gooドクター

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング