浮動小数点数
の検索結果 (10,000件 1〜 20 件を表示)
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
16ビット浮動小数点数の表現方法について
…学校の課題において、ある数を2進数で表現し、さらにその数を16ビット浮動小数点数で表しなさい。またそのとき生じる誤差の名称を記しなさい、という課題がでており取り組んでいる...…
浮動小数点の正規化の必要性について
… 浮動小数点の正規化の必要性について教えてください。 浮動小数点で数を表す際に、正規化は必ずしも必要なもの(行わなければならないもの)なのでしょうか? また浮動小...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
テーブルに小数点以下の値を入れたい場合
…アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか? どちらも小...…
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
浮動小数点の正規化方法について
…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。 問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ:ここでの正...…
Access 倍精度浮動小数点型について。。。
…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。 このよう...…
AccessからExcelへエクスポート時に小数点以下の桁数がおかしく
…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。 以下エ...…
Access-フォームの小数点以下が切り捨てられてしまう
…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます(5.24 → 5.00など)。 現在、テーブルのデータ型は数値型...…
アクセスのデータ型。数値型についてお聞きしたいのですが・・・
…アクセスのデータ型。「数値型」ですが、「フィールドサイズ」に (1)バイト型(0~255の範囲。小数点以下の数値は扱えない) (2)整数型(-32,768~32,767の範囲。小数点以下は扱えない) (3)...…
Access2000のレポートで小数点の表示が出来ない
…テーブルでも、クエリーでもちゃんと10.5と出ているにも拘らず、レポートだと11になってしまいます。 しかも1箇所だけで、他のテキストは小数点がちゃんと表示されます。 書式...…
小数点以下0の非表示
…教えてください。 PostgreSQLでNUMERIC(8,3)のデータがあるのですが、 そのデータが小数点以下が0だった場合などに 0を表示させたくないのですがどのようにすればよいのでしょうか? 2500.000...…
VB.net Double と Decimal の違い?
…VB.NETで開発しています 元々はC言語で開発してましたが、最近VB.NETをしています で、以前誰かが作ったプログラムをデバッグしているんですが、その中に Double ...…
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか?
…10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか? 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか? 計算方法を...…
sprintf関数での文字列変換について
…マイコンにて、 C言語で浮動小数点の数値を表示するプログラムを作成しているのですが、 PRINT_OUT("123.456"); のように、文字列を直接指定した場合は正しく表示されるのですが、 sprintf()...…
計算の丸め誤差の解消について
…プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしま...…
検索で見つからないときは質問してみよう!