固定小数点 の検索結果 (510件 1〜 10 件を表示)

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数とは何か ...…

締切

浮動小数点演算と固定小数点演算の使い分けについて

…解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算さ...…

解決

固定小数点数について

…1001を固定小数点数で表すといくらになるか?という問いに対してですが、(1)全ビットを反転させる(0110) (2)+1で(0111)=7 (3)したがって (1001)=-7になります。 ←(検証)-8+1=-7 答え 1001は-7。 ちなみに...…

解決

固定小数点と浮動小数点

…電算機の小数点認識に固定小数点と浮動小数点というのがあると聞きました。 前者は分かるのですが、浮動小数点のWikiとかの記述を見てもあまりピンときませんでした。 わかりやすい説明...…

締切

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 ---------------------------------------...…

解決

浮動小数点表示と固定小数点表示

固定小数点0.00128を浮動小数点表示すると0.128×10^-2と学校で習ったのですが、1.28×10^-1や128×10^-5としてはいけないのでしょうかどなたか教えてください。…

解決

16ビットの符号付固定小数点の使い方について

…16ビットの符号付固定小数点について 最上位(15) ビットが符号ビットで14〜0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビットをセットした値=0xA...…

解決

負数を2の歩数で表現する固定小数点表示法においてnビットで表現できる範

…負数を2の歩数で表現する固定小数点表示法においてnビットで表現できる範囲 この範囲の小さい方がなぜそうなるのかよくわかりません。 たとえば4ビットのとき、1111の補数は10000にならな...…

解決

固定小数点表現で表せる整数の範囲

…超初級者ですが、検索しても分からなかったので よろしくお願いします。 2進法、nビットの場合、 -2(n-1)乗〜2(n-1)乗-1 と書いてあるのですが、 何故-2(n-1)乗+1〜 ではないのでしょうか? 4ビ...…

解決

《Excel》セル書式設定を「数値」にして、小数点以下の桁数を固定しないことはできますか

…Excelのバージョンは今ちょっとわかりませんが、この前の4月に買ったものにインストールされていたものです。 セル書式設定を「数値」にして、小数点以下の桁数を固定しないことはでき...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ