けた落ちが誤差の理由が理解出来ていません。
有効桁数が減少するしても、計算結果に誤差は出てないようなので、なぜだか分かりません。

123.456 - 123.455 = 0.001

上記で有効桁数6桁から1桁になりますが、誤差の理由を教えて頂きたいです。
よろしくお願いします。

A 回答 (2件)

>計算時に、仮数部の表現範囲内に常に収まっている場合は、


>厳密には誤差ではないと言う理解で良いのでしょうか?

厳密には,と留保する必要はなく,その場合は明らかに誤差は生じません。
    • good
    • 0

http://oshiete.goo.ne.jp/qa/6190944.html の私の過去の回答ANo.2
    • good
    • 0
この回答へのお礼

回答ありがとうございます。
仮数部の表現範囲を超えたら・・・それは誤差だ!と思っていたのですが、具体例でより明確に理解出来ました。
ただ計算時に、仮数部の表現範囲内に常に収まっている場合は、厳密には誤差ではないと言う理解で良いのでしょうか?ちょっとモヤモヤしております・・・。

お礼日時:2011/04/19 23:14

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人が検索しているワード

このQ&Aと関連する良く見られている質問

Q誤差の求め方

Searleの実験で針金の最初の長さを求める際、定規で一回だけ針金の長さ(lとします)を測定しました。

その後ヤング率の誤差を求めるときに、ヤング率はlの関数となるためlの誤差を求めて計算したいのですが
測定回数が一回の場合の誤差はどうなるのでしょうか?
ゼロかと思ったのですが、実験の手引きにゼロではないと書かれています。
どなたか教えていただけますか

Aベストアンサー

ゼロではないというのは、系統誤差、測定誤差、過失誤差などのことを言っているのでは?

普通、測定値=L±ΔL、もしくはL=測定値±ΔLのように誤差を含めて表す(Lが真値、ΔLが誤差)。
仮に定規の最小目盛りが1mmとした場合、10分の1の0.1mmまで読み取るのが普通。これを読み取った値の±1mmや±0.1mmとすることによって誤差を表すことができる。(絶対にこの範囲内だという妥当な値をとること)

Qメモリ階層が有効である理由

大学の授業のほうで先生が「メモリ階層が有効である」と言っていました。この意味がよくわかりません。

プロセッサ⇔キャッシュ⇔メモリ⇔補助記憶

のように階層が下に行くたびに順に速度が遅くなってることが関係しているのでしょうか?
どなたか教えてください!

Aベストアンサー

関係してます。
非常に単純な話で、コストの問題と速度の問題が一番です。

今のプロセッサは物凄く速いですが、それは命令を実行するときで、
ひとたび、「待ち」に入ると、その次の命令を実行するときに実行時間の何倍も遅れてしまいます。

プロセッサと同じ速度で動作するメモリーは非常に高価です。
高価くらいなら良い方で、最近のプロセッサを考えれば、
同じダイの上のメモリーくらいしか同じ速度で動きません。

現実問題として、必要なメモリー容量をプロセッサと同じ速度の
モノを用意できない以上、遅いメモリを使うしかありません。

しかし、遅いメモリを使ったらいくら高速のプロセッサでも、
命令を読み込むたびにプロセッサは「待ち」になります。
これは実際、途方もなく大きい時間です。

ならば、少しでも速くしないといけませんから先読みですよね。
読み出すときのアルゴリズムを工夫して、少ないけれど高速のメモリーを使って、命令の先読みをするのがキャッシュ。
さらには、OSに必要な全てのプログラムを収納できるけど、桁違いに遅いHDDには、メインメモリーと、それぞれのデバイスで速度の違いを吸収するんですわ。

このように階層構造になっていることで、通常の使用では速度の違いを吸収して、出来る限り高速でプロセッサを動かすようにするんですね。

全てはプロセッサの「待ち」を減らすためと言えます。

関係してます。
非常に単純な話で、コストの問題と速度の問題が一番です。

今のプロセッサは物凄く速いですが、それは命令を実行するときで、
ひとたび、「待ち」に入ると、その次の命令を実行するときに実行時間の何倍も遅れてしまいます。

プロセッサと同じ速度で動作するメモリーは非常に高価です。
高価くらいなら良い方で、最近のプロセッサを考えれば、
同じダイの上のメモリーくらいしか同じ速度で動きません。

現実問題として、必要なメモリー容量をプロセッサと同じ速度の
モノを用意でき...続きを読む

Qデシベルについて2

 私は,一つの録音機器で,録音機器のレベル等の設定を同じにして,一つのマイクから2つの条件(exラッパと太鼓)で音を録音しようと思っています。
 ラッパの音を5回録音して,太鼓の音も同様に5回録音して,その録音した音をそれぞれ音声編集分析ソフトPraat(ver4.2.17)でデシベルを測定し,計10個のデシベルをだします。
 ラッパの音5回の平均デシベルと,太鼓の音5回の平均デシベルに差があるかt検定したいと思っています。
 ですが,デシベルは,対数なので,できないのか不安な状態です。音圧デシベルで,基準が同じであるならデシベルのまま比較できると聞いたのですが,私のしたいことはできるでしょうか。お願いします。

Aベストアンサー

先の質問にも回答したものです。

>音圧デシベルで,基準が同じであるならデシベルのまま比較できると聞いたのですが,私のしたいことはできるでしょうか。お願いします。

デシベル上でその数値を用いて行う平均は基本的に物理的な意味がないと思います。

デシベルはある基準値に対してエネルギーとして何倍であるかを示した値を対数表示したものです。

音の強さ(エネルギー)が基準値の2倍ならデシベル値(音圧レベル)は3dB、10倍なら10dBとなります(音圧レベル=10*LOG(計測値/基準値)。

わかりやすいように具体的な数値例をとって示します。例として、2回の計測の音圧レベルが6,10デシベルという値になった場合の平均値を求めてみます(実際計測すると3dB程度の計測誤差は出ます)。

まず、音のエネルギー上での計算についてです。

基準値は一定ですので、音の強さ上で計算する場合、ここでは基準値をわかりやすいように1(実際は先の質問に書いたような値になっていますので1ではありません)とします。
すると、それぞれの音のエネルギーは2と10という値になります。
平均すれば6となり音のエネルギーの平均値は6です。

これをデシベル上でそのまま平均値を計算すると6.5dBという値になります。これは基準値の約4.47倍ということを意味しています(4.47=10^(6.5/10))。
先のように基準値を1とすると平均値が4.47となり、音のエネルギーの平均値と異なる値になります。

太鼓とラッパを演奏したとき、どれほど音のエネルギー(音の強さ)が出ているか、どのくらいの音圧が出ているかを、物理的現象として比較したい場合は、デシベル値をそのまま用いて計算するのは、問題があると思います。

先の質問にも回答したものです。

>音圧デシベルで,基準が同じであるならデシベルのまま比較できると聞いたのですが,私のしたいことはできるでしょうか。お願いします。

デシベル上でその数値を用いて行う平均は基本的に物理的な意味がないと思います。

デシベルはある基準値に対してエネルギーとして何倍であるかを示した値を対数表示したものです。

音の強さ(エネルギー)が基準値の2倍ならデシベル値(音圧レベル)は3dB、10倍なら10dBとなります(音圧レベル=10*LOG(計測値/基準値...続きを読む

Q10進数から8けたの2進数に変換

10進数から2進数への変換はわかるのですが
10進数から8桁の2進数への変換がわかりません。
仮に10進数の38を8桁の2進数に直す場合、どんな過程を経て、8桁の2進数になるのでしょうか。
どなたか教えていただけますと有難いです。
宜しくおねがいします。

Aベストアンサー

Windowsに付いてる電卓を、関数電卓にして
10進数から2進数への変換
8桁に統一したい場合は、
38=#100110=#00100110=%26(16進数)
これで良いと思いますよ。

PIC・AVRマイコンでは、こうやって使います。

      

Qデシベルとパスカル

50デシベルの時と70デシベルの時のパスカルって何になるのでしょうか?
20デシベルの時と60デシベルの時と80デシベルの時は調べましたが、上記の時のデシベルは分かりませんでした。
どなたか教えて下さい。

Aベストアンサー

まず最初にお断りしておきますが
デシベルには2つの使い方があります。
1.相対的レベル・・出力/入力・・増幅率や減衰率
2.絶対レベル・・比較値/基準レベル

本来は1が正しいですが実用上2も良く使われます。
ただし基準が何かはっきりしないといけません。

ご質問はパスカルですから2のケースでしょう。
20マイクロパスカルを0dBとしているようです。↓

参考URL:http://www.onosokki.co.jp/HP-WK/nakaniwa/keisoku/pascal.htm

Q何回かブレーカーが落ちて、パソコンが強制的に何度も落ちてたら壊れますか

何回かブレーカーが落ちて、パソコンが強制的に何度も落ちてたら壊れますかね??
漠然とした質問で申し訳ないです。

Aベストアンサー

デスクトップパソコンではファイルの書き込み中にブレーカーが落ちると、書き込み中のファイルやハードディスクそのものが壊れる確率が非常に高いです。ハードディスクが壊れれば、多くの場合パソコンが起動しなくなったり、ハードディスクの交換が必要になったりして、パソコン中のハードディスクに保存されているプログラムや色々な大切なファイルが失われます。

それを防ぐには、UPS(無停電装置)を電源とパソコンの間に入れて、停電が回復するまでの間やパソコンをシャットダウンする間の時間、UPSから電源供給を受けます。普通、10分~30分位の電源供給できれば間に合います。UPSは以下を参照下さい。
http://kakaku.com/pc/ups/

ノートPCの場合は内蔵バッテリーを持っていますので、ブレーカーが落ちても内蔵バッテリーから電源が供給され、まず壊れません。

Qデシベルの比較について

 私は,一つの録音機器で,録音機器のレベル等の設定を同じにして,一つのマイクから2つの条件(exラッパと太鼓)で音を録音しようと思っています。
 ラッパの音を5回録音して,太鼓の音も同様に5回録音して,その録音した音をそれぞれ音声編集分析ソフトPraat(ver4.2.17)でデシベルを測定し,計10個のデシベルをだします。
 ラッパの音5回の平均デシベルと,太鼓の音5回の平均デシベルに差があるかt検定したいと思っています。
 ですが,デシベルは,対数なので,できないのか不安な状態です。音圧デシベルで,基準が同じであるならデシベルのまま比較できると聞いたのですが,私のしたいことはできるでしょうか。私は,一つの録音機器で同じ設定だからできるのでしょうか。
 誰か回答をお願いします。

Aベストアンサー

余計なお世話かと思いましたが...

> 基準が同じであるならデシベルのまま比較できると聞いたのですが

を回答した者です。

やっとkaittiさんの「ご心配」の元が分かったような気がしますので、補足します。

実はまだ今回のご質問でも明確でない情報があります。それは、

  「検定の目的」

です。つまり、何の「バラツキ・差」を検定したいのか、です。具体的に言うと、

 (1)マイクなどの音響機器(つまり人間の感覚が介在しない世界)の音種の違いによる応答の差
 (2)「楽器の音」を「人間が演奏する」ことによる(特に異なる楽器で同じ大きさの音を出しているつもりの場合における)差

のどちらかということです。

(1)の目的なら、kaittiさんが「ご心配」されるように、音響機器の特性が「音圧」にリニアであれば、dBが「対数」であることは問題があります。

しかし、(2)の場合は状況が違ってくると思います。人間の感覚は下記URLにあるように実物理量の対数にリニアになることが知られています。「楽器でこれだけの大きさの音を出したい」と思って演奏する場合、リアルタイムの「耳→脳→手→耳→・・・」のフィードバックか過去の経験に基づくフィードバックかは別にして、どちらにせよ、「自分の耳で判断した音の大きさ」を元に楽器を操作するのだと思います(全く初めて触る楽器や全くの素人は別にして)が、いかがでしょう?

その場合、「発生する音のバラツキ・差」の主たる部分が「センサ系(耳→脳)」の部分にあれば、「検定」の単位系は「感覚系における音の大きさ」にリニアである「dB」が好適です。一方、主が「機構系(脳→手の系)」の部分にあれば対数を取らない、元の物理量にリニア単位系の方がいいかも知れません。

お勧めから言うと、「dB」と「リニア量」と両方で統計計算をやってみて、その違いを考察するとよろしいのではないでしょうか? 私の発想では、例えば、演奏者が耳栓をする/しない、でリアルタイム・フィードバックのON/OFFをして比較するとかすれば、大変面白い結果が得られるのではないかと思います。

参考URL:http://www.arch.kumamoto-u.ac.jp/yano_lab/labo/noise/onatu.html

余計なお世話かと思いましたが...

> 基準が同じであるならデシベルのまま比較できると聞いたのですが

を回答した者です。

やっとkaittiさんの「ご心配」の元が分かったような気がしますので、補足します。

実はまだ今回のご質問でも明確でない情報があります。それは、

  「検定の目的」

です。つまり、何の「バラツキ・差」を検定したいのか、です。具体的に言うと、

 (1)マイクなどの音響機器(つまり人間の感覚が介在しない世界)の音種の違いによる応答の差
 (2)「楽器の...続きを読む

Qエクセルの整数部の桁数

エクセルで作業中です。整数部の桁数を3桁に揃えたい場合の方法を教えて下さい。よろしくお願いいたします。

Aベストアンサー

書式/セル/ユーザ設定で、##0,と入力すれば千円単位ででます。
なお、3桁区切りにしたければ、#,##0,とします。
30,000を30千円と表示したければ、#,##0,"千円"とします。

Q決算報告書などの数値の誤差

女子大生です

決算報告書などの数値には誤差が必ずあると思いますが、
大体どの程度、誤差が出ますか?

決算などの値は数値の集合体なので、
計算ミスや入力忘れなど、実際の収支と誤差が出ると思います
100%入出金を管理できている会社はほぼゼロだと思います

意図的な改ざんを除いた、
計算ミス、入力ミスなどを入れれば、
どの程度誤差が出るものですか?

Aベストアンサー

質問者さまの質問の真意が測りかねます。

確かに帳簿と現物の商品やお金が不一致なことはあり得ます。
しかしそれは双方を比べれば確実に発見できる誤差であって、その誤差は決算報告において原因別に処理をされ、その結果は決算書に反映されます。
つまり決算書には発見できる誤差をすべて修正しているので、誤差はありません。

また発見できない誤差であれば、そもそも誤差として認識できないので、「どの程度」など分かるはずもありません。

物や権利の評価額についても、意図的なものを除けば見解の差なので、誤差ではありません。

計算ミスや入力ミスについても、数字を少し間違えただけなのか、桁一つ間違えたのかによって、答えは全く違うので「どの程度」か分かるはずがありません。

さらに会社ごとに違います。
大量のネジを扱う金物店と、少数の車しか扱わない車屋とは、商品の紛失や盗難のしやすさ、カウントのしやすさが違い、在庫の評価額の正確性は全く違いますよね。

この質問のカテゴリは「統計学」になっていますが、各社の決算書を用いた企業統計などは実体経済との誤差はありますが、各社の決算書自体に統計学でいう誤差はありません。
身体測定で起こり得る身長や体重の正確性は誤差ではなく機器の精度の問題であって、決算書も同様です。

ただし発見できない誤差が後ほど判明したり、自身の見解が間違っていたとして修正をすることはあり得ます。
でもこれも定期的、定額的ではないので、「どの程度」と言えるものではありません。

質問者さまの質問の真意が測りかねます。

確かに帳簿と現物の商品やお金が不一致なことはあり得ます。
しかしそれは双方を比べれば確実に発見できる誤差であって、その誤差は決算報告において原因別に処理をされ、その結果は決算書に反映されます。
つまり決算書には発見できる誤差をすべて修正しているので、誤差はありません。

また発見できない誤差であれば、そもそも誤差として認識できないので、「どの程度」など分かるはずもありません。

物や権利の評価額についても、意図的なものを除けば見解の差なの...続きを読む

Qエクセル桁数変更方法教えてください

計算式を用いてA1セルに219.52と表示しています、B1セルには~記号を表示させており、C1セルには=CONCATENATE(A1,B1)関数を入力し219.52~を表示しています、A1での桁数変更は可能ですがC1での桁数変更が出来ません良い方法があったら教えてくださいC1セルに219.5と表示させたいです

Aベストアンサー

=CONCATENATE(ROUND(A1,1),B1)


人気Q&Aランキング