
No.2ベストアンサー
- 回答日時:
有効桁数で考える必要があります。
Singleの有効桁数は7桁(内部的には9桁)で、負の値は -3.4028235E+38 ~ -1.401298E-45、正の値は 1.401298E-45 ~ 3.4028235E+38 の範囲の値をとります。http://msdn2.microsoft.com/ja-jp/library/xay7978 …
54321.1234 = 5.43211234E+4
になり、有効桁数は9桁あります。この場合はDoubleでないと小数点以下7,8桁目は桁落ちします。
No.4
- 回答日時:
Singleの場合の有効数字は7桁くらいです
>54321.****
だと、9桁有りますので、Doubleでないと、精度が出ないと思われます
>SingleとDoubleで対応できる、整数部分の範囲
有効数字(整数部と小数部を合わせた全桁数)が
Single=7桁弱
Double=16桁弱
No.3
- 回答日時:
小数点以下下4桁まで精度が必要でしたら通貨型を使いましょう。
イミディエイトウィンドウで
?1.2*10-12
?1.2#*10-12
?1.2@*10-12
の結果を確かめてください
詳しくはこちら↓
第4回 演算誤差の正体
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.s …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
今、見られている記事はコレ!
-
隣の枝がはみ出してきたら切ってもいい?最もやってはいけないことは?
「隣の木が越境してきて困るが、勝手に切ってはいけないと聞くし…」そう思っている方も多いだろう。実は、2023年4月1日に民法が改正され、この「越境枝」のルールが大きく変わった。 教えて!gooでも「境界から出て...
-
弁護士が解説!あなたの声を行政に届ける「パブリックコメント」制度のすべて
社会に対する意見や不満、疑問。それを発信する場所は、SNSやブログ、そしてニュースサイトのコメント欄など多岐にわたる。教えて!gooでも「ヤフコメ民について」というタイトルのトピックがあり、この投稿の通り、...
-
弁護士が語る「合法と違法を分けるオンラインカジノのシンプルな線引き」
「お金を賭けたら違法です」ーーこう答えたのは富士見坂法律事務所の井上義之弁護士。オンラインカジノが違法となるかどうかの基準は、このように非常にシンプルである。しかし2025年にはいって、違法賭博事件が相次...
-
釣りと密漁の違いは?知らなかったでは済まされない?事前にできることは?
知らなかったでは済まされないのが法律の世界であるが、全てを知ってから何かをするには少々手間がかかるし、最悪始めることすらできずに終わってしまうこともあり得る。教えてgooでも「釣りと密漁の境目はどこです...
-
カスハラとクレームの違いは?カスハラの法的責任は?企業がとるべき対応は?
東京都が、客からの迷惑行為などを称した「カスタマーハラスメント」、いわゆる「カスハラ」の防止を目的とした条例を、全国で初めて成立させた。条例に罰則はなく、2025年4月1日から施行される。 この動きは自治体...
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
首吊りどこ締めるの
-
腕を見たら黄色くなってる部分...
-
血液検査の結果が悪くefgrの値...
-
検便についてです。 便は取れた...
-
勃起する時って痛いんですか? ...
-
彼女のことが好きすぎて彼女の...
-
値が入っているときだけ計算結...
-
2つの数値のうち、数値が小さい...
-
病院側から早く来てくださいと...
-
精液の落とし方を教えてください
-
風俗店へ行く前のご飯
-
エクセルでθを求めたい。
-
アクエリアスが苦く感じる
-
「内数」という言葉の意味がよ...
-
エクセルのラベルの値(文字列...
-
小数点以下を繰り上げたものを...
-
エクセルのグラフで、値0のとき...
-
MIN関数で空白セルを無視したい...
-
尿検査前日に自慰行為した時の...
-
ワードのページ番号をもっと下...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
首吊りどこ締めるの
-
検便についてです。 便は取れた...
-
血小板増加について
-
彼女のことが好きすぎて彼女の...
-
Excel 数値の前の「 ' 」を一括...
-
病院側から早く来てくださいと...
-
VLOOKUP関数を使用時、検索する...
-
腕を見たら黄色くなってる部分...
-
値が入っているときだけ計算結...
-
リンク先のファイルを開かなく...
-
2つの数値のうち、数値が小さい...
-
風俗店へ行く前のご飯
-
小数点以下を繰り上げたものを...
-
一番多く表示のある値(文字列...
-
MIN関数で空白セルを無視したい...
-
勃起する時って痛いんですか? ...
-
エクセルで空白セルを含む列の...
-
増減表のプラスマイナスの符号...
-
【Excelで「正弦波」のグラフを...
-
エクセルで数式の答えを数値と...
おすすめ情報