浮動小数点実数

の検索結果 (140件 1〜 20 件を表示)

実数の浮動小数点表示において

…指数部と仮数部はそれぞれ英語で何と言うのでしょうか?…

解決

n乗計算で

…下記計算があります。(1)と(2)は等しい状態にあるのですが 計算方法が理解できずに投稿しました。 (1)1/19.8x10^-9 (2)=10^9/19.8 理解できずに困っています。 教えて下さい。 よろしくお願い致し...…

解決

RUBY の 分数の 精度

…分数の足し算をしたいのですが。 1.0/3 = 0.33333333333333 の15桁では、精度が足りません。 精度を1000桁にしたいのですがどうしたらいいのでしょうか? 1.0/3 = 0.3333333333333333.....1000桁。…

解決

すいません、delphi初心者です。

…すいません、delphi初心者です。 わかる方いましたら教えてください。 今小数点の計算を行っているのですが、整数以下の小数点の切り捨てのサンプルはよく見るのですが、第一 以降や、...…

解決

三菱シーケンサ(Aシリーズ)で小数点を持つ値を扱いたいのですが。。。

…最近、仕事で必要に迫られてシーケンサの勉強を始めた者です。 今回、小数点以下第2位まで持つ値をタッチパネル上で入力して、それをシーケンサに転送して演算させなければいけないの...…

解決

while文について、c言語です。

…ぼくはプログラム始めたばかりです。 ミスを見つけられた方、ご指導お願いします。 正整数nを入力して、nの階乗をもとめるプログラムを作りたいのですが、実行結果がいつも1になります...…

解決

複雑な指数関数の"グラフの作成方法" ソフトも

…以下の式をグラフ化した図を作成したいのですが 複雑すぎて どのようにグラフを作成すれば良いかわかりません。 適切なグラフソフトもわかりません 状況としては 参考資料上に、この...…

解決

コンピューターの

…コンピューターの得意な演算、不得意な演算について教えてください。…

解決

16進数の表し方について

…すごく基本的なことだと思いますが、教えてください。 -128など、負の数を16進数で表す場合どのように表したら、 よいのですか。…

解決

16ビットの符号付固定小数点の使い方について

…16ビットの符号付固定小数点について 最上位(15) ビットが符号ビットで14〜0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビットをセットした値=0xA...…

解決

方程式が解けません。

…x^5 + {0.45+2*10~(-5)}・x^4 - 1.1*10~(-5) ・x^3 - 6*10~(-32)・x - 12*10~(-37)=0 ってどうやって解くんでしょうか? 化学の問題の計算式の途中で出てきたのですが、こんな5次方程式どうやって解くのかサッ...…

解決

実数をIEEE規格に基づく浮動小数点の表現法

…実数をIEEE規格に基づく浮動小数点の表現法で プログラミング表現したいのですがわけがわかりません。 単精度32bitで表現します。 助けてください。 お願いします。 (例:実数0.5、IEEE:001111...…

解決

FORTRANコンパイル時について

…土木の設計でFORTRANで書かれたプログラムを使用しているのですが,コンパイルする際に下記内容のエラー(?)が出ていますが,コンパイル自体は完了しています。 これって何かオカシイのでし...…

解決

エクセルでの計算結果

…エクセルでt検定をすると、2.215E-19のように「数字E+数字」という結果になってしまいます。標本数を少なくしたり、標本数が多くても数値を変えて試すとちゃんとした結果がでることもあり...…

解決

エクセルのバグですか

…エクセルで数式を使っていて、一つのセルだけ異常な数値が出ます。 下記のような結果が出ますが、こういう現象はあるのでしょうか? 例) セル(内容) : 値(画面表示) A1(=SUM(B2:B79) :11.40000000...…

解決

小数点計算について

…皆さん教えてください 小数点を含む計算ロジックを作成中でバグ?と思われる結果が出てしまいました my $data1 = "5"; my $data2 = "4.9"; my $data3 = "0"; $data3 = $data1 - $data2; ...…

解決

Fortranの変数

…Fortranの変数の取り扱いに関する質問です。 実数で宣言した変数に 33.3 という数字を読み込ませたのですが, そのまま書式を指定せずに書き込ませると 33.2999992 と表示されました。 これは...…

解決

10進のマイナスの計算について

…10進のマイナスを2進にする方法 10進のマイナスで少数のものを2進にする方法 を教えてください 方法にも減算、加算、除算、乗算とありますが 一番分かりやすいものをお願いします いろ...…

締切

数値の掛け算の不具合について

…下記のようなページで <HTML> <HEAD> <script language="JavaScript"> <! -- function calc() { document.f.t3.value = eval(document.f.t1.value) * eval(document.f.t2.value); return true; } //--> </script&g...…

解決

Athlon 64 X2 vs Core 2 duo

…ほかのパーツの性能も関連してくるとは思いますが どっちのが早いのでしょうか? 価格ドットコムで調べた値段で Athlon 64 X2 Dual-Core 6000+ (125W) Core 2 Duo E6600 が大体同じくらいの値段でした。...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴