アプリ版:「スタンプのみでお礼する」機能のリリースについて

恥ずかしい算数の計算です。基準日を100として、その後の変動を調べるのですが、私はこのようにしています。

(例)
基準日の値
1617.52とすると

100÷1617.52=0.061823
1617.52×0.061823≒100.0
としていました。

ある日の基準が-3.07%の日を100として計算しようとしましたが、同じようにしてもどうしても100.1になってしまいます。計算は同じような手順で
100÷0.0307=3257.32899
-0.0307×3257.32899=100.1となってしまいます。マイナスが付いてなれば100.0になりました。数字に弱いのでなんともよく分かりません。教えていただけないでしょうか?

A 回答 (1件)

変ですね。

手計算では、-0.0307×3257.32899 は
-99.999999993
になりました。パソコン(エクセル)でも同じです。
(パソコンもあまり桁数が大きいと計算誤差がでますが、この(10桁)くらいなら問題ないはず。)
100.1 にはなりそうにないですね。

計算は電卓を使われたのでしょうか?
押し間違いということはないでしょうか。
(たとえば 100.1÷3257.32899≒0.0307307 なので、
掛け算するときに 307 を2回押してたとか)

計算に使われた電卓(100均とかメーカー製関数電卓とか)/ソフトの種類、具体的な計算の手順などを補足していただけると、何か手がかりになるかもしれません。

(どのようなデータの変動を調べるのか分かりませんが、
基準が「%」でしかもマイナスというところが(100.1の件とは別に)気になりますが)
    • good
    • 1
この回答へのお礼

Ki4-U2さんありがとうございました。ご指摘の通りでした。いろいろと考えていただき大変有難かったです。

お礼日時:2006/02/25 19:15

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!