固定小数点数 の検索結果 (215件 1〜 10 件を表示)

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数とは何か ...…

締切

固定小数点数について

…1001を固定小数点数で表すといくらになるか?という問いに対してですが、(1)全ビットを反転させる(0110) (2)+1で(0111)=7 (3)したがって (1001)=-7になります。 ←(検証)-8+1=-7 答え 1001は-7。 ちなみに...…

解決

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 ---------------------------------------...…

解決

固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する

…固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する固定小数点数にするという問題で、まず6を2で割り続けて余りを出すとこまでは分かるのですが...…

解決

この問題がわかりません

…基本情報試験の過去問をやっているのですが、よく理解できなかったので、解説をお願いします。 ●負数を2の補数で表す 16 ビットの符号付き固定小数点数の最小値を表すビット列を, 16 ...…

解決

輝度を小数点で計算する理由(整数でもいいのでは?)

…アホな質問かもしれませんが、よろしくお願いします。 GPUでは座標計算の他にRGBの輝度計算も行なっているのは周知の事実ですが、どうして小数点で計算するのでしょうか? RGBの0〜255で表...…

解決

データ型と値で分からないこと

…VBAの勉強をしています。 データ型の値で分からないところがあるので質問させていただきます。 ?1.4E-45 って1.4×(10の-45乗)のことでしたっけ? すると、3.4E38 は、3.4×(10の38乗)? ?浮動小数点...…

締切

指数ってどんなときに使うのでか

…excel2002をしていておもったのですが、セルの書式設定で「表示形式」の分類の中にある「指数」ってのはどんなときに選択するのでしょうか? 具体的な事例をできれば教えてください。…

解決

固定小数点と浮動小数点

…電算機の小数点認識に固定小数点と浮動小数点というのがあると聞きました。 前者は分かるのですが、浮動小数点のWikiとかの記述を見てもあまりピンときませんでした。 わかりやすい説明...…

締切

さっきの小数点切捨て→浮動小数点数の演算誤差について

…さっき、http://oshiete1.goo.ne.jp/kotaeru.php3?q=685942で切捨てがうまくできないっていう質問があって、私は計算機を出してまでなんでやろ〜って思って計算して、回答しました。 ところがです、あ...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ