浮動小数点実数 の検索結果 (140件 1〜 10 件を表示)

実数の浮動小数点表示において

…指数部と仮数部はそれぞれ英語で何と言うのでしょうか?…

解決

n乗計算で

…下記計算があります。(1)と(2)は等しい状態にあるのですが 計算方法が理解できずに投稿しました。 (1)1/19.8x10^-9 (2)=10^9/19.8 理解できずに困っています。 教えて下さい。 よろしくお願い致し...…

解決

RUBY の 分数の 精度

…分数の足し算をしたいのですが。 1.0/3 = 0.33333333333333 の15桁では、精度が足りません。 精度を1000桁にしたいのですがどうしたらいいのでしょうか? 1.0/3 = 0.3333333333333333.....1000桁。…

解決

すいません、delphi初心者です。

…すいません、delphi初心者です。 わかる方いましたら教えてください。 今小数点の計算を行っているのですが、整数以下の小数点の切り捨てのサンプルはよく見るのですが、第一 以降や、...…

解決

三菱シーケンサ(Aシリーズ)で小数点を持つ値を扱いたいのですが。。。

…最近、仕事で必要に迫られてシーケンサの勉強を始めた者です。 今回、小数点以下第2位まで持つ値をタッチパネル上で入力して、それをシーケンサに転送して演算させなければいけないの...…

解決

while文について、c言語です。

…ぼくはプログラム始めたばかりです。 ミスを見つけられた方、ご指導お願いします。 正整数nを入力して、nの階乗をもとめるプログラムを作りたいのですが、実行結果がいつも1になります...…

解決

複雑な指数関数の"グラフの作成方法" ソフトも

…以下の式をグラフ化した図を作成したいのですが 複雑すぎて どのようにグラフを作成すれば良いかわかりません。 適切なグラフソフトもわかりません 状況としては 参考資料上に、この...…

解決

コンピューターの

…コンピューターの得意な演算、不得意な演算について教えてください。…

解決

16進数の表し方について

…すごく基本的なことだと思いますが、教えてください。 -128など、負の数を16進数で表す場合どのように表したら、 よいのですか。…

解決

16ビットの符号付固定小数点の使い方について

…16ビットの符号付固定小数点について 最上位(15) ビットが符号ビットで14〜0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビットをセットした値=0xA...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ