固定小数点

の検索結果 (517件 1〜 20 件を表示)

浮動小数点演算と固定小数点演算の使い分けについて

…解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算さ...…

解決

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数とは何か ...…

締切

固定小数点数について

…1001を固定小数点数で表すといくらになるか?という問いに対してですが、(1)全ビットを反転させる(0110) (2)+1で(0111)=7 (3)したがって (1001)=-7になります。 ←(検証)-8+1=-7 答え 1001は-7。 ちなみに...…

解決

固定小数点と浮動小数点

…電算機の小数点認識に固定小数点と浮動小数点というのがあると聞きました。 前者は分かるのですが、浮動小数点のWikiとかの記述を見てもあまりピンときませんでした。 わかりやすい説明...…

締切

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 ---------------------------------------...…

解決

16ビットの符号付固定小数点の使い方について

…16ビットの符号付固定小数点について 最上位(15) ビットが符号ビットで14〜0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビットをセットした値=0xA...…

解決

浮動小数点表示と固定小数点表示

固定小数点0.00128を浮動小数点表示すると0.128×10^-2と学校で習ったのですが、1.28×10^-1や128×10^-5としてはいけないのでしょうかどなたか教えてください。…

解決

負数を2の歩数で表現する固定小数点表示法においてnビットで表現できる範

…負数を2の歩数で表現する固定小数点表示法においてnビットで表現できる範囲 この範囲の小さい方がなぜそうなるのかよくわかりません。 たとえば4ビットのとき、1111の補数は10000にならな...…

解決

固定小数点表現で表せる整数の範囲

…超初級者ですが、検索しても分からなかったので よろしくお願いします。 2進法、nビットの場合、 -2(n-1)乗〜2(n-1)乗-1 と書いてあるのですが、 何故-2(n-1)乗+1〜 ではないのでしょうか? 4ビ...…

解決

《Excel》セル書式設定を「数値」にして、小数点以下の桁数を固定しないことはできますか

…Excelのバージョンは今ちょっとわかりませんが、この前の4月に買ったものにインストールされていたものです。 セル書式設定を「数値」にして、小数点以下の桁数を固定しないことはでき...…

解決

浮動小数点 を整数に変えて計算する方法

…floating point (浮動小数点)を integer (整数)(fixed point(固定小数点)?)にかえて計算する方法を教えてください。 よろしくお願いします。…

解決

計算の丸め誤差の解消について

…プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしまって...…

解決

変数、ポインタ

…(1)「変数」と「ポインタ」についてそれぞれ違いがわかるように説明せよ。 (2)プログラムにおいて使用される「再帰的呼び出し」と「ループ」について それぞれ違いが分かるように説明せ...…

締切

符号付の整数8ビット…

…教えてください。 符号付整数8ビットの2の補数で表現するときの11101111-11110011の計算を2進数で示すときの途中の計算方法を教えてください。 10進数のー13を8ビットの固定小数点(負数は2mの...…

締切

基数変換プログラム

…10進から2進に変換といった簡単な変換はできるのですが、求められているのが、 「M進の固定小数点表現から、M'進の表現を得る」というもので、「整数部・小数部の桁数はそれぞれ200桁...…

締切

固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する

…固定少数点数表示について 10進数-6.625を8ビット、整数と小数をそれぞれ4ビットずつで表現する固定小数点数にするという問題で、まず6を2で割り続けて余りを出すとこまでは分かるのですが...…

解決

基本情報処理の資格について

…先日より、基本情報処理の学校に通い始めました。 夜間で半年ぐらいのコ-スです。 そこでなんですが、授業の内容がほとんどその場では理解 できません。 家に帰って復習してかろうじ...…

解決

バイナリファイルの読込み(小数の扱いについて)

…お世話になっています。 今、バイナリファイル(BSQフォーマット)を読み込むプログラムをC言語で書こうとしています。 バイナリファイルの内容は数字(実数)の配列です。 そのバイナリファ...…

解決

この問題がわかりません

…基本情報試験の過去問をやっているのですが、よく理解できなかったので、解説をお願いします。 ●負数を2の補数で表す 16 ビットの符号付き固定小数点数の最小値を表すビット列を, 16 ...…

解決

PICで小数点の演算

…PIC16F877Aを使ってプログラムを作っています。 その内容がセンサー(例えば温度センサー等)から取り入れた電圧をPICのA/D変換(10bit)を行って、その値を使ってpicで計算し、その結果を液晶に表...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴