
No.1ベストアンサー
- 回答日時:
Windowsをお使いでしたら,アクセサリ→電卓 の 表示(V)→関数電卓(S) を使ってご自身で検算することができます。
ただし一般的な関数電卓も同様ですが,2進数の小数を扱えませんから,ビットシフトを用いて整数演算をすることになります。nビット左シフトは ×(2のn乗),nビット右シフトは ÷(2のn乗)です。
(100110011001100)2÷(2の16乗) = 19660÷65536 = 約0.2999
(11001100110011)2÷(2の17乗) = 13107÷65536÷2 = 約0.0999
となりますから,どちらも正解です。
17桁目で0捨1入した結果も正しいです。17桁目は切上されたのですから,0.1よりも大きな数の方向に丸められたわけです。これを10回加算した結果は当然1よりも大きくなります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- 情報処理技術者・Microsoft認定資格 2進数の問題を教えてください。 1 2022/07/27 09:42
- 数学 大学数学 「条件:t進表現において、何乗しても右から2桁が変わらない2桁の自然数が存在する。」 上記 7 2023/06/28 22:25
- 数学 【 数Ⅰ 反復試行 】 問題 x軸上を動く点Aがあり、最初は原点にある。硬貨を投げて表が出たら正の方 4 2022/09/29 17:43
- 情報処理技術者・Microsoft認定資格 情報技術の問題についてです。 10進数の−36を以下のような16ビットの浮動小数点表示にするといくつ 3 2022/05/21 19:53
- 計算機科学 2進数の計算について 2進数の値は全て8ビットで負数は2の補数形式とする。結果が8ビットで表現出来な 3 2023/07/22 14:08
- 数学 至急!!大学2年の女子です。この高校レベルの問題が分からないので教えてください!お願いしますm(_ 2 2022/11/11 22:10
- その他(データベース) 4進数風なバーコードは何ですか? 2 2022/11/28 23:33
- 数学 これまでに愚かな回答者を何人も見てきました。 それでも私は問うてみたい。 京都大学の入試問題に 「 6 2023/05/01 14:06
- 数学 正規数の定義で分からないことがあります。 正規数の定義について専門書において 「xがr進正規であると 1 2023/07/17 20:50
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
実績を積むという表現
-
「最大300字程度」
-
【機械図面】 最大値・最小値...
-
「充足に達しましたので」これ...
-
言葉遣いについて ○○を取りに行...
-
2進数の数え方
-
いつ電話をよこすの?という表...
-
ピンクの象について
-
味の表現で「どっきりする」っ...
-
1の補数表現
-
高窓(ハイサイド窓)を平面図...
-
変電所のことをS/Sと表現するそ...
-
ビジネスメールについて
-
16進数の表し方について
-
1億x1億はいくらでしょうか?
-
10分の1は「10/1 それとも1/10...
-
50以下は“50”も入るのですか?
-
エクセルで60進法計算の仕方...
-
Excel 16進数
-
100以下の自然数のうち、次のよ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
実績を積むという表現
-
【機械図面】 最大値・最小値...
-
「最大300字程度」
-
言葉遣いについて ○○を取りに行...
-
「充足に達しましたので」これ...
-
高窓(ハイサイド窓)を平面図...
-
ビジネスメールについて
-
敬語の使い方
-
桁あふれがわかりません
-
16進数の表し方について
-
いつ電話をよこすの?という表...
-
変電所のことをS/Sと表現するそ...
-
超音波検査について
-
ビットについて基本情報技術者...
-
機械組み立て工場での電動ドラ...
-
ネットワークアドレスの問題:...
-
伝送時間の計算
-
ハンマードリルで木杭の打ち込み
-
広告に「絶対」という表現を使...
-
0xFD30 2バイトの16進数表現で...
おすすめ情報