電子書籍ギフト♪ 最大10,000円が当たる!

20000円の3分の2の計算のしかたをおしえて戴けませんか。宜しくお願いします。

教えて!goo グレード

A 回答 (2件)

まず、答えが整数にならないので、その処理をどうすればいいか(普通の言語だと切捨てになる?)という問題はありますが...。


(1)20000を最初に3で割ってしまうと精度が低下しますので、最初に2をかけてから次に3で割るのがいいと思います。

(2)...って、そのまま16bitの変数(short)を使うと20000*2=40000>32767でオーバーフローしてしまいます。バッファには32bitの変数(long)を使わないとダメ、という引っ掛け問題でしょうか。
    • good
    • 7
この回答へのお礼

なるほど、ありがとうございました。

お礼日時:2017/11/27 06:44

20000×2÷3=13333

    • good
    • 5
この回答へのお礼

なるほど、ありがとうございました。

お礼日時:2017/11/27 06:44

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

教えて!goo グレード

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング