ウォッチ
固定小数点
の検索結果 (10,000件 181〜 200 件を表示)
平方根を小数に直して並び替える問題
…平方根の小数に直す問題で躓いています。中学校レベルの問題です。 次の数を小数で表す時、数字の並び方がおなじになるものはどれとどれか。という問題で、 ア、√3 イ、√30 ウ、√0....…
エクセルにてacosを使い＃NUM!とエラー
…質問させていただきます。 エクセルの演算機能にてですが、 D4：-28.2 D5：-33 F5：4.8 D6：=D5-D4 F7：DEGREES(ACOS(D6/F5)) と入力したところF7に＃NUM!とエラーが出てしまいます。 D5-...…
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？
…10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 計算方法を...…
三菱シーケンサ（Aシリーズ）で小数点を持つ値を扱いたいのですが。。。
…最近、仕事で必要に迫られてシーケンサの勉強を始めた者です。今回、小数点以下第２位まで持つ値をタッチパネル上で入力して、それをシーケンサに転送して演算させなければいけないの...…
円周率は原理的に途中の桁から計算可能ですか？
…例えば、パイ=3.14159265とあって 3.14の部分は一切計算することなく、小数点3桁目から6桁だけ計算する感じです。答えとしては159265になります。 おそらくは簡単にできないのでしょうが、...…
ROUNDDOWNでも切り捨てられない？
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
VBScript 数値の少数化
…VBScript (ASP)での開発です。 3→3.0 10→10.0 1.005→1.0 以上のように、数値を小数第一位で固定して 表示したいと思っています。 で、FormatNumber(数値,1)というようにしてみたのですが、 小数値が...…
エクセルの計算式の計算結果が合わないです。
…簡単な減価計算の計算式を作ったのですが、計算結果が合わず困っています。 A1に100,000,000 A2に=A1*0.15 B2に15 C2に=(1/B2)*2 とし、 一番求めたい計算式が =A2*C2なのですが、答えが2,000,000になりま...…
算数・・・単位がわからない！
…高校生です。恥ずかしいのですが、小学校のころ勉強しなかったせいか、特に単位の問題がさっぱ～りわからないのです。（１ｍ＝１００ｃｍなど・・）又、小数点の計算もよくわかりませ...…
オラクルのデータ型・通貨について
…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか？ ネットで調べて見ましたが、上手いことかゆいところに手が届...…
Accessで小数の入力について
…質問させていただきます。 Access2000を使用しております。そこで、フォームを利用してデータを入力するのですが、金額（通貨型）項目に、小数第2位まで入力する必要があります。テーブル...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 Ｂ11-B15...…
Googleシートに数字の6.5を打つと7になり 小数点が切り上げられてしまいます。 どこで設定でき
…Googleシートに数字の6.5を打つと7になり 小数点が切り上げられてしまいます。 どこで設定できますか？…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
サビアン占星術の度数について
…サビアン占星術で、太陽などの度数からサビアンを探すにあたり、小数点以下は切り上げるべきでしょうか。それとも切り捨てるべきでしょうか。 例えば、12.65度の場合は13度として見る...…
検索で見つからないときは質問してみよう！
質問する（無料）
