［固定小数点］についての検索結果(約10000件中 201〜220件を表示)

powf を使わずにべき乗を計算

…組み込み系で開発しているものです。どうしても実数のべき乗を使わねばならないのですが、 powf があまりに遅くて話になりません。条件・sinf, cosf は使ってもよい（高速なライブラ...…

エクセルで３捨４入

…企業の賃金表の計算をエクセルで行っているのですが、４捨５入ではなく、３捨４入をしたいのですが、どうしたらいいでしょうか？関数を探したらないようなのですが、何か良い方法は...…

九分九厘で「ほとんど」の意味だが、何故「割」ではないの？

…子どもの頃から疑問に思っていることなんですが、「九分九厘」というのは「ほとんど全て」という意味ですよね。ところで小数点以下第一位は「割」ですよね。０．９９ならほとんど...…

2004/11/01 09:30
日本語
回答数(7)

Excelで小数点を表示しつつ、桁区切りもつけたい。

…Excelで資料を作り、2500/本と先に入力し桁区切りをつけたいと思い以前質問させて頂いてなんとか関数を使用し、完成したのですが今度は2500.00/本と先に入力してあって同じように関数を使っ...…

C言語でdouble型の小数点の引き算をしたら1.15-1.1の結果が0.05のはずが0.04999・・822になります。0.0...

…int a; double d; d = 1.15 - 1.1; a = (int)(d * 20); この結果でaの値に1を期待しているのですが。0.9999になって結果が0になってしまいます。他関数などを使用して良いプログラミング例はあります...…

2007/05/16 15:56
C言語・C++・C#
回答数(8)

エクセルで同じ式なのに、数値によって値が変わる

…助けてください。非常に簡単な式ですが、数値によって結果が違い困っています。 a-bが許容内であるか場合"OK"、許容差外の場合"NG" という数式を以下のように作りました。 (本当はもう少...…

固定観念？固定概念？

…固定観念　と　固定概念　の違いを教えてください。よろしくおねがいいたします。…

2006/02/01 13:28
日本語
回答数(2)

2進数　10進数　2の補数　小数

…2進数を10進数に変える問題で困っています。 -30などを2の補数で考えることはできるのですが（-30の2進数は11100010）、 -3.625　など、小数が入ったときはどのように考えればいいのでしょう...…

ユーザーフォーム内のテキストボックス内の書式設定

…A1セルに12.345と入力してあり、書式は「数値」で小数点以下の桁数2にしてあり、「12.35」と表示されます。 VBAを起動して、ユーザーフォームを挿入し、テキストボックスを作成し、 Text...…

エクセルのMATCH関数について

…エクセルのMATCH関数についての質問ですが、どうしてもエラーが表示され悩んでいます。どうか教えていただければと思います。たとえば下記のような場合なぜかエラーが発生してしまいま...…

エクセルの時間計算が”分”から”時”（10進法）への変換がうまくいきません

…エクセル2010にて時間を計算し、集計をしています。Ｂ2セルに=sum(Ａ:Ａ)と入力し、表示形式[m]で分単位で合計を出しています。この計算結果を60で割り小数点以下第3位切り捨てにて、表...…

COBOLの桁落ち

…a pic S9(１３）COMP-3　VALUE　００１２３４５６７８９０１．ｂ　pic S9(11) OCCURS 14. c pic --,---,---,--9. aのデータをｂに渡します。ｂは渡されたデータを集計します。集計したデータをｃに渡し...…

EXCELの式で按分した結果を元の数値と一致させるには（小数点）？

…EXCELで特定の数値に、ある配分率をかけて（按分）、複数の人に配分する場合、その値の合計が元の特定の数値にピッタリ合わない場合がありますよね。それぞれの結果に小数点がでるため...…

エクセル　0.1と0.10

…例えば、0.10とセルの中に打ったはずなのに、最終的に0.1と表示されてしまいます。これを常に0.10と表示する方法を教えていただけないでしょうか？…

円周率を何桁まで言える？

…皆さんは円周率を小数点以下何桁まで言えるのでしょうか？…

2011/08/14 04:46
数学
回答数(17)

写真の数値は1302でしょうか？それとも赤い数字、小数点第一位がまだ0になっていないので1301...

…写真の数値は1302でしょうか？それとも赤い数字、小数点第一位がまだ0になっていないので1301でしょうか？…

カントールの対角線論法について質問です。

…カントールの対角線論法について質問です。野矢茂樹著の「無限論の教室」によると、 x0 = 0.1111... x1 = 0.1011... x2 = 0.0111... x3 = 0.1010... ... のように 0 から 1 までの小数を２進数で列挙して...…

2023/11/07 04:31
数学
回答数(63)

固定小数点