［浮動小数点］についての検索結果(約1567件中 261〜280件を表示)

エクセルの時間計算が”分”から”時”（10進法）への変換がうまくいきません

…エクセル2010にて時間を計算し、集計をしています。Ｂ2セルに=sum(Ａ:Ａ)と入力し、表示形式[m]で分単位で合計を出しています。この計算結果を60で割り小数点以下第3位切り捨てにて、表...…

写真の数値は1302でしょうか？それとも赤い数字、小数点第一位がまだ0になっていないので1301...

…写真の数値は1302でしょうか？それとも赤い数字、小数点第一位がまだ0になっていないので1301でしょうか？…

リトルエンディアンのデータをテキスト変換して利用したい

…いつもお世話になっています。ある観測生データが「リトルエンディアン」という形式のバイナリファイルです。これをテキストに変換して、DBに取り込んで利用したいです。環境とし...…

サビアン占星術の度数について

…サビアン占星術で、太陽などの度数からサビアンを探すにあたり、小数点以下は切り上げるべきでしょうか。それとも切り捨てるべきでしょうか。例えば、12.65度の場合は13度として見る...…

単位について質問があります。

…単位は時間です。67.1とは何時間ですか？教えて頂きたいです。…

2024/05/02 17:00
図書館情報学
回答数(3)

ユーザーフォーム内のテキストボックス内の書式設定

…A1セルに12.345と入力してあり、書式は「数値」で小数点以下の桁数2にしてあり、「12.35」と表示されます。 VBAを起動して、ユーザーフォームを挿入し、テキストボックスを作成し、 Text...…

C言語のサフィックスについて

…C言語のサフィックスについてなのですが、これは要するに定数の型(?)を明示するものでしょうか？またどんな時に使うのか、使わなくてはならないのかを教えてください。検索はしたのです...…

2009/07/31 09:53
C言語・C++・C#
回答数(2)

Float型の時の計算結果がおかしい

…ユーザー側で、Microsoft SQL Server2000を使用しています。計算結果がおかしいので、仕事場で、SQL2008環境で互換モードでも、以下の現象が出てこまっております。テストで、確認しました。 23...…

2012/12/05 01:13
SQL Server
回答数(3)

Excelで小数点を表示しつつ、桁区切りもつけたい。

…Excelで資料を作り、2500/本と先に入力し桁区切りをつけたいと思い以前質問させて頂いてなんとか関数を使用し、完成したのですが今度は2500.00/本と先に入力してあって同じように関数を使っ...…

円周率を何桁まで言える？

…皆さんは円周率を小数点以下何桁まで言えるのでしょうか？…

2011/08/14 04:46
数学
回答数(17)

EXCELの式で按分した結果を元の数値と一致させるには（小数点）？

…EXCELで特定の数値に、ある配分率をかけて（按分）、複数の人に配分する場合、その値の合計が元の特定の数値にピッタリ合わない場合がありますよね。それぞれの結果に小数点がでるため...…

エクセルで３捨４入

…企業の賃金表の計算をエクセルで行っているのですが、４捨５入ではなく、３捨４入をしたいのですが、どうしたらいいでしょうか？関数を探したらないようなのですが、何か良い方法は...…

topコマンドでFloating point exceptionの発生

…RedHatLinux AS2.1が稼動しているサーバーにて、稼動してから４年以上経ちますが、最近になってtopコマンドを実行すると『Floating point exception』が発生しCPU等の状況が調べられなくなってしまっ...…

2008/09/12 14:22
UNIX・Linux
回答数(3)

カントールの対角線論法について質問です。

…カントールの対角線論法について質問です。野矢茂樹著の「無限論の教室」によると、 x0 = 0.1111... x1 = 0.1011... x2 = 0.0111... x3 = 0.1010... ... のように 0 から 1 までの小数を２進数で列挙して...…

2023/11/07 04:31
数学
回答数(62)

物理基礎の有効数字について

…(2)についてです。物理は足し算引き算の場合最末位の高いものにそろえ、掛け算割り算の場合桁数が最も少ないものに揃えるとならいました。この場合掛け算を先に行うと24.5－58.8となり答...…

2025/05/28 18:18
物理学
回答数(6)

時間の秒単位で切り上げする方法

…いつも大変お世話になっております。今回も教えてください。測定時間の換算で切り上げする方法なのです。計測データをCSV変換し、同時に秒を分に切り上げたい。シートに手作業でＢ2...…

電卓での時間の足し算方法

…3時間53分＋15時間46分＋12時間31分を電卓で計算する時、分を時間になをして計算しますが　簡単な計算方法があったら教えて下さい　例　30053+15046+12046とか小数点を使うとか？…

2006/09/07 16:48
数学
回答数(6)

浮動小数点