小数点 第n位 を切り上げ,切り捨て

実数 Ｙ を小数点第ｎ位で
(1)切り上げ
(2)切り捨て
をしたいのですが、どのようにすれば良いのでしょうか

No.8 回答者： ginyou 回答日時： 2003/07/16 16:10

＃６です

＃７の説明はちょつと間違っていたので訂正します

切り捨てについて補足説明をします。
小数点以下２桁目を切りすてる場合
切り捨てとは何かという事になります
　10.51＝10.5
　－10.51＝-10.5
である。
とします、実は ＩＮＴの場合
言語仕様によっては、
-10.51=-10.5となるＩＮＴもあります
ＶＢ６は-10.51=-10.6と確認しました
負の場合、切り捨てと言うのは-10.51=-10.6とします。
つまり、０より下にする事が切り下げという考えです。

　－10.51＝-10.5
このようにするには、以下のように、正と負を分けて計算する必要があります


If Y < -1 Then
Y2 = Abs(Y)
　　 Y3 = Int(Y2 * 10 ) / 10
else
　　Y3 = Int(Y * 10 ) / 10
End If

では、切り上げはというと

If Y < -1 Then
Y2 = Abs(Y)
　　 Y3 = Int(Y2 * 10　+　.09 ) / 10
else
　　Y3 = Int(Y * 10 +　0.9) / 10
End If

とします。
切り上げの場合注意しなければいけないのは
　　 Y3 = Int(Y2 * 10　+　.09 ) / 10
この計算式では、負の時おかしくなるという事です
　-10.51+.09=-10.42-->-10.5
-10.59+.09=-10.5-->-10.6
となります。
つまり負の時は-.09を付けなければいけないという事です。
つまり、単独でする場合、負の場合
　　 Y3 = Int(Y2 * 10　－　.09 ) / 10
となります。
どちらを選択するかは、好みによります。

No.7 回答者： ginyou 回答日時： 2003/07/16 14:58

　＃６です

切り上げについて補足説明をします。
小数点以下２桁目を切り上げる場合
切り上げとは何かという事になります
　10.51＝10.6
　－10.51＝-10.6
である。
とします、実はＶＢのＩＮＴは伝統的に
負の場合、切り上げと言うのは-10.51=-10.5とします。
つまり、０に近づける事が切り上げという考えです。
Fortran言語はINTは
　－10.51＝-10.6
となります
このようにするには、以下のように、正と負を分けて計算する必要があります


If Y < -1 Then
Y2 = Abs(Y)
　　 Y3 = Int(Y2 * 10 + 0.9) / 10
else
　　Y3 = Int(Y * 10 + 0.9) / 10
End If

No.6 回答者： ginyou 回答日時： 2003/07/16 14:37

実数 Ｙ を小数点第ｎ位以下で（第ｎ位を有効にする）

と解釈していいでしょうか

1) int(Y*10^n+0.9)/10^n

2) int(Y*10^n)/10^n

となります

No.5 回答者： mfuku 回答日時： 2003/07/16 14:28

すみません、＃３の者です。

＃３のロジック、微妙に間違ってました。
以下に訂正します。

（１）Ｙに１０のｎ－１乗を掛ける。
（２）その結果に対して、切り上げの場合０．９を加え、切り捨ての場合何もしない。
（３）その結果を整数で切り捨てる（Int, Fix関数）。
（４）その結果を１０のｎ－１乗で割る（元の桁数に戻す）。

小数点にして切り捨てないと切り捨てられませんでしたね。
考え方は後に解答されている＃４さんと同じ考え方です（というより＃４さんを見て間違いに気がつきました）。

No.4 回答者： vantage 回答日時： 2003/07/16 14:20

(1) int(Y*10^(n-1)+0.9)/10^(n-1)

(2) int(Y*10^(n-1))/10^(n-1)

No.3 回答者： mfuku 回答日時： 2003/07/16 14:16

以下のロジックで対応できます。

（１）Ｙに１０のｎ乗を掛ける。
（２）その結果に対して、切り上げの場合９を加え、切り捨ての場合何もしない。
（３）その結果を整数で切り捨てる（Int, Fix関数）。
（４）その結果を１０のｎ乗で割る（元の桁数に戻す）。

＃ちなみに、Round関数はあくまでも丸め（疑似四捨五入＝厳密には四捨五入ではないが四捨五入に近い丸め）であり、切り上げ・切り捨てではありません。
上記の考え方で、（２）で５を加えれば厳密な四捨五入もできます（Round関数のような丸めではなく）。

No.2 回答者： nek 回答日時： 2003/07/16 14:10

＃１です。

すみません四捨五入と勘違いしていました。

切り上げはROUNDUP
切捨てはROUNDDOWN

になります。

No.1 回答者： nek 回答日時： 2003/07/16 14:07

ＲＯＵＮＤ関数を使えば可能です。

ROUND(Y,n)でいいと思います。