No.1ベストアンサー
- 回答日時:
浮動小数点だから、仮数部と指数部で表現できる数値表現のうち、もっとも近いものに丸められるからでは?
my $num1 = 1 / 3;
printf "%.64f\n", $num1;
#0.3333333333333333148296162562473909929394721984863281250000000000
my $num2 = $num1 * 3;
printf "%.64f\n", $num2;
#1.0000000000000000000000000000000000000000000000000000000000000000
http://perldoc.jp/docs/perl/5.10.0/perlnumber.pod
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95% …
この回答へのお礼
お礼日時:2011/05/31 18:14
ありがとうございます!
単純に切捨てではなくて丸めているんですね。
あと、45.2-38.8 が 6.40000000000001 になるってのもあるんですねw
http://d.hatena.ne.jp/satakesatake/20090522/1242 …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- その他(ビジネス・キャリア) 今時の派遣社員って仕事が出来ないだけじゃなく計算も出来ないのか? 8 2022/07/22 20:53
- Excel(エクセル) エクセル VBAでセル内容を別の列の最下行に転記したい 2 2022/11/29 08:47
- 物理学 RC直列回路の実験で理論値と測定値の時定数を計算した結果±12%と大きな誤差が生じたのですがその原因 3 2022/09/29 22:32
- 統計学 不偏分散を計算するときに標準偏差和をn-1で割りますが、なぜ-1なのでしょうか? 「なぜnでなくn- 5 2022/07/04 14:54
- その他(Microsoft Office) Excelで時間計算(負) 8 2023/02/26 05:47
- その他(プログラミング・Web制作) VBA 1 2023/01/19 16:19
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Java java 飾子を付けること(public static・・・) ・コンソールへの出力処理はmainメ 2 2022/06/16 19:34
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
内部処理形式が日付型 (Date) ...
-
Application.ScreenUpdating = ...
-
JSONで文字列が長い時
-
ACCESS テキストボックスを隙...
-
構造体の各データの表示につい...
-
文字の横にプルダウンを表示さ...
-
メモリをアドレスを直接指定し...
-
回数を指定しないで空白行まで...
-
[python] 文字列を変数名として...
-
16進の10進変換について
-
セレクトボックスである項目を...
-
swift 文字コードから文字に変...
-
セレクトメニューで2つの項目...
-
C言語について
-
Use of uninitialized value ---
-
セレクトメニューで選んだ値を...
-
【C#】数値の範囲チェックについて
-
formで特定のinputを送信しない...
-
I2C接続のLCDディスプレイを使う
-
C言語のflagの使い方が分かりま...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
Perlで複数の値を返す良い方法...
-
HASH(0xほげほげ)
-
10進数→2進数
-
内部処理形式が日付型 (Date) ...
-
Wコロン
-
変数に値を代入するのに、まずu...
-
Perlで自分自身の関数名を知る...
-
PerlでCabochaを呼び出すには(...
-
print <<"_HTML_"の中でサブル...
-
プロトタイプ宣言のワーニング...
-
Perlで use strict して our変数
-
Pythonのマルチプロセスでの並...
-
Perl 一定時間後にプログラムを...
-
これは動いてくれますか??
-
Net::SSH::Perlについて
-
Python 点座標表示の不具合
-
引数の値をURLのパスに配列とし...
-
Pythonのプログラミングの質問...
-
Net::Telnetでタイムアウト時間...
-
[perl] next と return 同じ意...
おすすめ情報