No.1ベストアンサー
- 回答日時:
浮動小数点だから、仮数部と指数部で表現できる数値表現のうち、もっとも近いものに丸められるからでは?
my $num1 = 1 / 3;
printf "%.64f\n", $num1;
#0.3333333333333333148296162562473909929394721984863281250000000000
my $num2 = $num1 * 3;
printf "%.64f\n", $num2;
#1.0000000000000000000000000000000000000000000000000000000000000000
http://perldoc.jp/docs/perl/5.10.0/perlnumber.pod
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95% …
この回答へのお礼
お礼日時:2011/05/31 18:14
ありがとうございます!
単純に切捨てではなくて丸めているんですね。
あと、45.2-38.8 が 6.40000000000001 になるってのもあるんですねw
http://d.hatena.ne.jp/satakesatake/20090522/1242 …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- その他(ビジネス・キャリア) 今時の派遣社員って仕事が出来ないだけじゃなく計算も出来ないのか? 8 2022/07/22 20:53
- Excel(エクセル) エクセル VBAでセル内容を別の列の最下行に転記したい 2 2022/11/29 08:47
- 物理学 RC直列回路の実験で理論値と測定値の時定数を計算した結果±12%と大きな誤差が生じたのですがその原因 3 2022/09/29 22:32
- 統計学 不偏分散を計算するときに標準偏差和をn-1で割りますが、なぜ-1なのでしょうか? 「なぜnでなくn- 5 2022/07/04 14:54
- その他(Microsoft Office) Excelで時間計算(負) 8 2023/02/26 05:47
- その他(プログラミング・Web制作) VBA 1 2023/01/19 16:19
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Java java 飾子を付けること(public static・・・) ・コンソールへの出力処理はmainメ 2 2022/06/16 19:34
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
Perlで複数の値を返す良い方法...
-
Perlで use strict して our変数
-
JSONで文字列が長い時
-
Application.ScreenUpdating = ...
-
16進の10進変換について
-
メモリをアドレスを直接指定し...
-
文字の横にプルダウンを表示さ...
-
実行時エラー 3020の対策
-
テーブル内でドロップダウンメ...
-
formで特定のinputを送信しない...
-
sendmailで複数の宛先にメール...
-
構造体の各データの表示につい...
-
vscode 文字化け
-
【メモリ不足で落ちる(python)】
-
パイソンプログラミング
-
パイソンのクラスのブログラム
-
シェルスクリプトで、空白(ス...
-
【C#】数値の範囲チェックについて
-
10進数→2進数の出力について
-
パイソンのクラスについて
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
Perlで複数の値を返す良い方法...
-
HASH(0xほげほげ)
-
プロトタイプ宣言のワーニング...
-
Pythonのプログラミングの質問...
-
Net::SSH::Perlについて
-
perlのスクリプトどこが間違っ...
-
print <<"_HTML_"の中でサブル...
-
内部処理形式が日付型 (Date) ...
-
Perlで use strict して our変数
-
変数に値を代入するのに、まずu...
-
Perl:計算誤差について
-
icmp socket error
-
Perlで足し算をするには
-
連想配列とforeach
-
Wコロン
-
PERLの「!=」と「=~」 or...
-
for文の中でのforeachの問題
-
Perlで自分自身の関数名を知る...
-
PerlでCabochaを呼び出すには(...
-
Net::Telnetでタイムアウト時間...
おすすめ情報