
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
まず、答えが整数にならないので、その処理をどうすればいいか(普通の言語だと切捨てになる?)という問題はありますが...。
(1)20000を最初に3で割ってしまうと精度が低下しますので、最初に2をかけてから次に3で割るのがいいと思います。
(2)...って、そのまま16bitの変数(short)を使うと20000*2=40000>32767でオーバーフローしてしまいます。バッファには32bitの変数(long)を使わないとダメ、という引っ掛け問題でしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(行政) マイナンバーカードのマイナポイントについて 子供の分と私の分、合わせて3つ受け取りアプリが必要なので 8 2023/03/03 10:25
- その他(お金・保険・資産運用) 金利計算 返済期間 返済金額計算教えて下さいm(_ _)m 2 2023/08/10 23:48
- 求人情報・採用情報 1日の実働7.5h✕週6日の求人についてお尋ねします。 週の労働時間は40hまでなので、5hこえた分 2 2022/10/24 15:48
- 数学 三角関数の和 4 2023/06/17 18:33
- メルカリ メルカリショップの販売利益 1 2022/05/20 09:44
- その他(学校・勉強) 株などを複数違う割合で購入した場合の利率の計算方法 4 2022/05/01 09:31
- アクセサリ・腕時計 女子高生になった娘に腕時計をプレゼント したいと思っています。 今の女子高生に人気の腕時計時計メーカ 9 2022/06/01 00:34
- 中学校 減少率計算をお願いします。 今年 1月6740 2月6161 3月4578 前年 1月7325 2月 2 2022/10/01 17:49
- その他(お金・保険・資産運用) マイナポイントについて質問です。 マイナンバーカードを作ってマイナポイントをもらおうしてるのですが、 3 2023/02/28 22:03
- 工学 いつもありがとうございます、 円盤の上に何ccの液を液滴させながら円盤を回したら液が拡がって円盤の全 5 2023/03/18 14:17
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
高校化学II: 単位格子,計算
-
SP値
-
20000円の3分の2の計算のしかた...
-
分子機動計算ソフト
-
ガラス器具の許容範囲誤差と有...
-
小数第一位までのときは、第二...
-
数字のあらわし方について
-
【化学】気体の計算問題の答え...
-
計算結果の微妙なズレ(大学入試)
-
有効数字について
-
濃度計算に付いての質問です。 ...
-
この問題の答えの桁数が2桁だっ...
-
ppmとは
-
硫安が入った緩衝液のイオン強...
-
亜リン酸H2PO3の酸化数
-
(1+i)6=1.2 6=6乗の意味 i=0.03...
-
化学 分子量について
-
理科の問題の添削をよろしくお...
-
分子軌道計算 対称性
-
化学わかりません;;大至急です!!
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
小数第一位までのときは、第二...
-
ガラス器具の許容範囲誤差と有...
-
20000円の3分の2の計算のしかた...
-
kDaからbpへの変換について
-
有効数字
-
有効数字についてですが、掛け...
-
計算結果の微妙なズレ(大学入試)
-
有効数字について
-
ROUNDDOWNの計算が、合わないの...
-
対数の誤差計算についての質問...
-
有効数字の計算についての質問...
-
数字のあらわし方について
-
クエン酸水のpH
-
高校化学の計算問題のコツを教...
-
化学(原子量)の有効数字
-
【高校化学】有効数字の指定が...
-
電子天秤のメモリ
-
ある化合物の水酸基価を確認し...
-
1.0×10のマイナス14乗÷2.0×10の...
-
「六捨七入」すればまだまだ二...
おすすめ情報