固定小数点数

の検索結果 (219件 1〜 20 件を表示)

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数とは何か ...…

締切

固定小数点数について

…1001を固定小数点数で表すといくらになるか?という問いに対してですが、(1)全ビットを反転させる(0110) (2)+1で(0111)=7 (3)したがって (1001)=-7になります。 ←(検証)-8+1=-7 答え 1001は-7。 ちなみに...…

解決

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 ---------------------------------------...…

解決

固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する

…固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する固定小数点数にするという問題で、まず6を2で割り続けて余りを出すとこまでは分かるのですが...…

解決

この問題がわかりません

…基本情報試験の過去問をやっているのですが、よく理解できなかったので、解説をお願いします。 ●負数を2の補数で表す 16 ビットの符号付き固定小数点数の最小値を表すビット列を, 16 ...…

解決

輝度を小数点で計算する理由(整数でもいいのでは?)

…アホな質問かもしれませんが、よろしくお願いします。 GPUでは座標計算の他にRGBの輝度計算も行なっているのは周知の事実ですが、どうして小数点で計算するのでしょうか? RGBの0〜255で表...…

解決

データ型と値で分からないこと

…VBAの勉強をしています。 データ型の値で分からないところがあるので質問させていただきます。 ?1.4E-45 って1.4×(10の-45乗)のことでしたっけ? すると、3.4E38 は、3.4×(10の38乗)? ?浮動小数点...…

締切

指数ってどんなときに使うのでか

…excel2002をしていておもったのですが、セルの書式設定で「表示形式」の分類の中にある「指数」ってのはどんなときに選択するのでしょうか? 具体的な事例をできれば教えてください。…

解決

固定小数点と浮動小数点

…電算機の小数点認識に固定小数点と浮動小数点というのがあると聞きました。 前者は分かるのですが、浮動小数点のWikiとかの記述を見てもあまりピンときませんでした。 わかりやすい説明...…

締切

さっきの小数点切捨て→浮動小数点数の演算誤差について

…さっき、http://oshiete1.goo.ne.jp/kotaeru.php3?q=685942で切捨てがうまくできないっていう質問があって、私は計算機を出してまでなんでやろ〜って思って計算して、回答しました。 ところがです、あ...…

解決

実数とは

…現在、基本情報技術者の資格勉強をしているものです。 アルゴリズムの勉強中に実数という言葉が出てきたのですが注釈はのっておりませんでした。 実数が何を意味しているのかがわかり...…

解決

visualbasic のコード中で 10000000000000# ってなに!?

…visualbasic6.0を使用しています。 コード中に1000000・・・・ と書いていくと 0が10個の時点で#が勝手につきます。 これって何なのでしょう? もっともな分かりやすい理由があるのでしょうか? ...…

解決

2進数の計算について

…01000111(2)-01101010(2)の計算を補数を用いて求める方法は 01101010を10010101に変更し1を加えて10010110に変更し 01000111 +10010110 =11011101(2)で正しいでしょうか? また答えを10進数に変更する方法を教えて...…

締切

音響信号処理をC言語でプログラミング

…音響信号処理をC言語でプログラミングを考えています。 理由としては ・現在はMATLABを使って信号処理しているが処理速度が遅い為 ・ロボット等のシステムに組み込む際C言語の方がよさ...…

締切

基本情報 過去問16年 問4について

…基本情報資格の勉強をしているのですが、平成16年度の問4の問題でわからない点があるので教えてください。 問題は下記を参考にしていただきたいのですが、 http://情報処理試験.jp/FE16b-pm/t...…

解決

補数の考え方(計算・減算)について

…初歩的な質問させていただきます。 10000 - 0110 ------- ※答えはいくつになりますか?…

締切

数学のアルゴリズム

…コンピュータが数値を数学的に処理する際のアルゴリズムは人間が数学を解く時のアルゴリズムと同じ、端的にいえば「プログラムのアルゴリズム=数学の解法のアルゴリズム」なのでしょう...…

解決

負の2進数の表示がわかりません

…Q1:負の数(例えば10進数の[-2] )を2進数,4ビットで表すには, 1010(MSDの[1] は[-]を表して,後半の3桁は[2] )か 1110([0001] の2の補数) どちらが正しいのですか? (学校ではどちらも習いました) またQ2のよ...…

解決

浮動小数点

…浮動小数点について勉強していますが、本を見てもよくわかりません。 「イクセス表記とは、本来8ビットで表現できる値は0〜255であるのに対し、元の値に127を加算することにより、-127〜12...…

解決

2の補数が成立する理由

…2の補数表現の特長は、桁あふれを無視することで、ある値Aの減算を Aの2の補数の加算として扱うことができるのはわかるのですが この特徴が成立する理由というのが分からないのですが...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴