ウォッチ
浮動
の検索結果 (23件 1〜 23 件を表示)
浮動小数点の正規化方法について
…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。 問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ：ここでの正...…
wsprintfで浮動小数を扱うには？
…＜プログラム環境＞ Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース ＜質問＞ wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
浮動小数点の定数
…基本的なことで恐縮ですが、 float f = 1; float f = 1.f; および double d = 1; double d = 1.0; これらは、違いがあるのでしょうか。…
Access 倍精度浮動小数点型について。。。
…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。 このよう...…
浮動小数点の誤差のあわせ方
…文字列からdouble型変換で他のPGと誤差がでてしまうのですが、 なんとか同じBinaryにしたいので教えてください。 1.489を他のPGのHEXで表した結果では、 printf("1.489 = %08lx%08lx\n", atof((double)？...…
FP4という浮動小数点演算4桁の割り当ては？
…NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか？ 符号部 指数部 仮数部の割り当てです。…
四季報 浮動株と特定株を足したら
…四季報の読み方について疑問に思ったことよろしくお願いします。 浮動株と特定株を足しても100パーセントにならないのですが、なぜでしょうか？ 特定の誰かが持っている それとも 特...…
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
基本情報の浮動小数点について
…基本情報技術者試験の勉強をしているのですが、浮動小数点の問題がどうしても解けません。問題を読んでもいまひとつ理解できず、四苦八苦しています。 下記の問題なのですが、教えて...…
トリクル充電と浮動充電、均等充電の違い。
…トリクル充電、浮動充電、均等充電の仕組みなどを教えていただきたい。 なんとなくは分かるのですが、理論的な事が何一つ分からないのです。 どんなときにコレ、こんなときはコレとか...…
エラー：浮動小数点の不正な使用
…/*月ごとの平均気温・降水量を構造体の配列に格納した後、 */ /*年間平均気温、年間平均降水量を求めるプログラムを作成せよ。*/ #include void main(void) { int i; double total_kion, total_suiryo, ...…
１６ビット浮動小数点数の表現方法について
…学校の課題において、ある数を２進数で表現し、さらにその数を１６ビット浮動小数点数で表しなさい。またそのとき生じる誤差の名称を記しなさい、という課題がでており取り組んでいる...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
浮動小数点の正規化の必要性について
… 浮動小数点の正規化の必要性について教えてください。 浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？ また浮動小...…
「不正な浮動小数点数演算命令」エラーでDVD-RWへ書き込みが出来ません。
…以前、TDKのDVD-RW CPRMのメディアをDVDレコーダー（パナソニック）にて 地デジ放送を録画していましたが、そのメディアを自分でカメラ撮りしたビデオ編集の DVD記録へ使おうとしてDVDオーサ...…
以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指...
…以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット、仮数部4ビットで構成されるとしたとき、10進数 0.1 を以下に示す過程で浮動小数点...…
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？
…10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 計算方法を...…
検索で見つからないときは質問してみよう！
質問する（無料）
