恥ずかしい算数の計算です。基準日を100として、その後の変動を調べるのですが、私はこのようにしています。
(例)
基準日の値
1617.52とすると
100÷1617.52=0.061823
1617.52×0.061823≒100.0
としていました。
ある日の基準が-3.07%の日を100として計算しようとしましたが、同じようにしてもどうしても100.1になってしまいます。計算は同じような手順で
100÷0.0307=3257.32899
-0.0307×3257.32899=100.1となってしまいます。マイナスが付いてなれば100.0になりました。数字に弱いのでなんともよく分かりません。教えていただけないでしょうか?
No.1ベストアンサー
- 回答日時:
変ですね。
手計算では、-0.0307×3257.32899 は-99.999999993
になりました。パソコン(エクセル)でも同じです。
(パソコンもあまり桁数が大きいと計算誤差がでますが、この(10桁)くらいなら問題ないはず。)
100.1 にはなりそうにないですね。
計算は電卓を使われたのでしょうか?
押し間違いということはないでしょうか。
(たとえば 100.1÷3257.32899≒0.0307307 なので、
掛け算するときに 307 を2回押してたとか)
計算に使われた電卓(100均とかメーカー製関数電卓とか)/ソフトの種類、具体的な計算の手順などを補足していただけると、何か手がかりになるかもしれません。
(どのようなデータの変動を調べるのか分かりませんが、
基準が「%」でしかもマイナスというところが(100.1の件とは別に)気になりますが)
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 標準誤差の求め方 2 2022/07/04 19:59
- 不動産投資・投資信託 投資信託 信託報酬について 4 2022/11/13 13:06
- 生物学 【生命科学】ヒトが1日に消費するATP量?(精度を変えて再計算) 3 2022/10/07 18:48
- 妊活 判定日のhcgの値について。 体外受精の胚移植を受け、移植後12日後(BT12)に陽性判定を受けまし 1 2022/11/24 08:33
- 数学 統計数学の問題でノルム1に基準化された固有ベクトルというものが出てくるのですが、あまりイメージできま 2 2023/03/19 08:40
- 物理学 質量とは何か? 6 2023/04/17 20:44
- 不動産投資・投資信託 NISAをやってみたいです。 教えていただきたいのですが、 投資元本と利益=評価額でしょうか。 きの 3 2023/06/21 09:53
- 財務・会計・経理 賞与引当金の計上について計上が必要かどうかまとめてみました(1月決算) 認識違うぞということがあれば 1 2023/07/24 17:17
- 統計学 t値の計算方法 1 2022/11/29 18:37
- 住民税 住民税(普通徴収・所得割)計算方法で分からないところがあります。 住民税の基礎控除は43万円とですが 1 2022/07/31 12:32
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
15%増しの計算方法
-
前年比の%の計算式を教えてく...
-
パーセントの計算
-
3分2の計算教えて下さい
-
エクセルで関数計算後の値を数...
-
ラジアン値を°′″(度・分・秒)...
-
何通りかの計算で 7C4 の答えが...
-
「出来型」と「出来形」の使い...
-
250gを8割と2割に分けると
-
3割アップとは、どうのように...
-
毎日10%ずつお金が増える時...
-
3分の2の計算の仕方
-
指数計算 2^n-1
-
割引や%引きの計算のやり方を教...
-
同じ時間なのに、60進と10...
-
6畳間は何立方メートル?
-
1人の人間の祖先をさかのぼっ...
-
8の4分の3乗は?
-
一定倍したある数を元に戻すには?
-
算数の比 0:1
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
15%増しの計算方法
-
前年比の%の計算式を教えてく...
-
パーセントの計算
-
3分2の計算教えて下さい
-
ラジアン値を°′″(度・分・秒)...
-
エクセルで関数計算後の値を数...
-
3割アップとは、どうのように...
-
何通りかの計算で 7C4 の答えが...
-
初歩的な計算式の問題です。
-
6畳間は何立方メートル?
-
数学がとにかくできません。知...
-
指数計算 2^n-1
-
計算式の答えまでの過程を教え...
-
一定倍したある数を元に戻すには?
-
250gを8割と2割に分けると
-
1÷無限=0ということは数(大き...
-
一日ずつ2倍の金額をもらい続...
-
算数で質問です よろしくお願い...
-
2の365乗
-
教えて下さい
おすすめ情報