浮動小数点
の検索結果 (1,570件 681〜 700 件を表示)
printf / sprintf のスタック消費量比較
…こんばんは。スタックの消費量について質問させてください。 私の頭の中には「 printf は処理も遅くてスタックも沢山消費する」というイメージがあるのですが、標準出力ではなくメモリ...…
串刺し計算ができない
…シート1のセルA1をクリックして、Σボタンを押しました。 次にシート2(シート名は山本 有事)からシート20(吉原 炎上)をシフトボタンを押しながらクリックしてD39をクリッ...…
仕入先からの請求書と弊社支払明細書の誤差1円?
…経理初心者です。(計算も苦手です・・・) 仕入先から今月分の請求書が届き、 (小計¥1,348,320)+(消費税 ¥107,864)=(合計 ¥1,456,184) という内容で届きました。 しかし、弊社...…
不規則なデータのfft処理
…データサンプリングが不規則なのですが、ExcelでMacroを使って中間値を補間してフーリエ変換FFT処理する方法をお教え頂けないでしょうか? またできればExcelはFFTできる最大が4096ですがMacro処...…
台形公式
…c言語初心者です。 「f(t)=exp(t)の、0から1までの定積分を台形公式により計算せよ」 という問題に取り掛かっているのですが、うまくいきません。 以下に私の書いたものと、エラーメッ...…
スパコンとパソコンはどう違うんですか?
…東大等で円周率を計算するのに使われている機械 所謂スパコンは市販のパソコンとはどう言う所が 違うのでしょうか?性能に違いがあると言うのは 大体分かりますが具体的にはどうちが...…
エクセルでタイム差の計算
…体育の授業で持久走をしました。 エクセルには10.45(10分45秒)と入力しています。2回目のタイムが12.35だとすると、タイム差は1分50秒(1.50)になるわけで...…
C++でのeの近似値の求め方
…問題はeの値は次の近似式で求めることができる。 e=1+1/1!+1/2!+1/3!+...+1/(n-1)!+1/n! nの値を12としてeの近似値を求めるプログラムを作成せよ。 <出力形式> n n! 1/n! e ...…
ジョギングの時速をエクセルで計算するには
…ジョギング日 距離 時間 時速 1秒=0.0002778時間 2016/4/30 5.9Km 0.861 6.852㍍ 1分=0.016667時間 以上ですがソフトはエクセルです。ジョギングの時速を毎回計算しています。 ...…
1Mとか1Gのデータ量は新聞紙何枚ぐらい?
…インターネットの回線速度で、1Mbitとか1Gbitとか数字が並んでいるのですが、わかりやすい表現でいうとどれくらいのデータ量でなのでしょうか? (新聞紙○枚ぐらい?40...…
四捨五入した数の合計が100.0%にならない!
…確か中学で習った気もするのですが・・・ よろしくお願いいたします。 ─────────────────── 本来合計が100.0%になるはずのものが、 四捨五入したばっかりに100.1%に...…
ACCESSで近似値を求める方法を教えてください。
…ACCESS初心者レベルの者ですが、クエリなどについて 教えていただけますでしょうか。 給与計算や社会保険の手続きの仕事をしており、 ACCESS2000で社会保険の随時改定対象者の抽出を 行...…
エクセルVBA 段落番号自動取得方法
…C~G列に文字列が入力されてからプログラムを実行後、B列に画像のような段落番号を表示させる方法がございましたらご教授お願いします。 画像の、"1","2","3"は表示できるようになりました...…
sscanfより速い方法について。
…ただいま、テキストから書式付のデータを取得するコードを 書いております。 しかし、異常にその処理が遅いので、原因を調べてみると どうやらsscanfが原因らしいということが分かりま...…
構造体の初期化方法について
…こんばんわ。 何度も申し訳ありません。 VC++.NET 2003を用いてコンソールプログラミングを行っています。前回この掲示板を利用して複数回実行するプログラムを作成し、そこに構造体を用...…
excelで指定した範囲の時刻をランダム入力させたい!
…excelで指定した範囲の時刻をランダム入力させたい! excelの関数で悩んでいます。。 具体的には 「午前10時30分00秒から午前10時45分00秒の時刻をランダム入力させたい」です。 表示形式は...…
小数を分数に直す方法
…分数を小数に直すのは、分子÷分母ですが、小数を分数に直すにはどのようにしたら良いのでしょうか? たとえば、5分の4、8分の3、5分の7などどんなパターンでもかまいません。 ...…
【1円の誤差が!】総合計を正確に出すには?
…こんにちは。 エクセルについての質問です。 ROUND関数を使って消費税を算出しましたが、 合計すると1円の誤差が生じてしまいます。 ↓ 課税対象 36,484,334 消費税 1,824,217(ROUND関数)...…
検索で見つからないときは質問してみよう!