20000円の3分の2の計算のしかたをおしえて戴けませんか。宜しくお願いします。

20000円の3分の2の計算のしかたをおしえて戴けませんか。宜しくお願いします。

No.2 回答者： denden_kei 回答日時： 2017/11/26 23:36

まず、答えが整数にならないので、その処理をどうすればいいか(普通の言語だと切捨てになる?)という問題はありますが...。

(1)20000を最初に3で割ってしまうと精度が低下しますので、最初に2をかけてから次に3で割るのがいいと思います。

(2)...って、そのまま16bitの変数(short)を使うと20000*2=40000>32767でオーバーフローしてしまいます。バッファには32bitの変数(long)を使わないとダメ、という引っ掛け問題でしょうか。

この回答へのお礼

なるほど、ありがとうございました。

お礼日時：2017/11/27 06:44

No.1 回答者： AVENGER 回答日時： 2017/11/26 23:23

２００００×２÷３＝１３３３３

この回答へのお礼

なるほど、ありがとうございました。

お礼日時：2017/11/27 06:44