浮動小数点実数
の検索結果 (2,329件 81〜 100 件を表示)
Excelで、小数点以下を自動省略なしに表示するには?
…Excelのセルに8.00と入れて確定すると、8だけになって小数点以下が自動省略されてしまいます。小数点以下を省略せずに、入力した通りに8.00と表示する方法を教えてください。…
小数点を含む数値かどうか判断の判断方法
…プログラム(VB.NET)初心者です。 どうぞよろしくお願いします。 テキストボックスに小数点を含んだ数値かどうかの 判断を行いたいのですが、どのようにチェックをすればいいかがわかり...…
Accessで小数点以下の桁数を・・?
…教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以...…
小数点の誤差をなくすのは可能?[ExcelとPHP]
…PHPとExcelのワークシート関数を使って小数点の演算を行い、 両者が正しい値を返しているかを比較しているのですが、 どうしても計算が合いません。 例えば、次のような計算です(小数...…
小数点第一位と二位の場合で表示を変えたい 以下のような表示に出来る関数を知りたいのです...
…小数点第一位と二位の場合で表示を変えたい 以下のような表示に出来る関数を知りたいのですがどなたかご教示ください。 A1は1以上 A1が1の時→B1が1 A1が小数点第一位までの場合→B1...…
【エクセル】数式の答えに、記号→プラス(+)マイナス(△)をコンマ(3桁)で表示するには?
…こんにちは、みなさん!! Q.数式の答えに、プラスだったらプラス記号(+)、マイナスだったら マイナス記号(-)さらに、コンマ(3ケタ)で表示するにはどうすれば良いですか? 例 2,00...…
VB6.0での小数点の扱いについて
…現在、VB6.0を使用しており、小数点の扱いに困っています。 Sub Keisan() Dim A As String Dim B As String Dim C As String A = 1.29033 B = 1.91458 C = CStr(A + CDec((B - A) / 6) * 3) Ms...…
なぜ、小数点以下の数字を掛けると、数が減るの(小学校4年生)
…小学校4年生の娘なんですが、まだ、小数点以下の掛け算をならっていません。 小数点以下の数を掛けると、なぜ「減るのか」 小数点以下の数を割ると、なぜ「増えるのか」理解できませ...…
小数点以下が0になるときの考え方について教え得て頂けると幸いです。小学
…小数点以下が0になるときの考え方について教え得て頂けると幸いです。小学算数の指導方法は理解できました(下のサイト)。たとえば12.0という数字では、実測に関する場合には小数点以...…
60進数の四則計算
…いつもお世話になります。 煮詰まっております。いい方法をご教授頂けたらと思います。 小数点以上は10進数、小数点以下(2桁まで)を60進数で表す数値があります。 1.30 ↑↑↑ ...…
0.00E-00にしない書式
…小数点以下の小さい数になると自動的に0.00…E-00の書式になってしまいます セルの幅を広げても変わりません どんなに小さい数でも0.00…になる書式はどうすればよいのでしょう?…
小数点入力チェック
…以下の処理を入力チェックしたいのですが、どうしたら宜しいのでしょうか?お願いします。 num="1.999" →OK num="1.11" →OK num="1" →OK num="11.11" →NG if(!num.match(/[0-9]*\.[0-9][0-9][0-9]+/)){ aler...…
差し込み印刷での小数点表示について
…マイクロソフト2010での差し込み印刷で困っています。 エクセルの数字のデータをワードで差し込み印刷しようとすると、小数点以下が10桁くらい表示されてしまいます。 エクセルのデ...…
確認申請 小数点 四捨五入?
…ちょっと、おしえてください。 今、申請書を書いています。 今時、考えられない急ぎの申請です。 まだ、余裕をもつという事を知らない人々がいるのです(笑)。 私は、ずっと、面積...…
単精度実数の範囲を求める方法を教えて下さい
…ご教授願います。 単精度実数では1ビットの符号部、7ビットの指数部、24ビットの仮数部で表し、-3.40282×10^38~3.40282×10^38の範囲を表すとあります。この、-3.40282×10^38~3.40282×10^38はどのよう...…
VBAで入力数値について
…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 (1)整数の場...…
エクセルの小数点、パーセントについて教えてください。
…Microsoft Excelで、%をつけたいのですが、小数点第1までしかいらないのですが、パーセントをつけると、自動に0がつき、少数第2まで、なってしまいます。 これはどうしたら、勝手に0を...…
「小数点第2位まで表示」というのは正しいでしょうか
…「小数点以下第2位まで表示」か「小数点未満第2位まで表示」が正しいと思っていたのですが、標題のような言い方がよく出てくるのですが、正しいのでしょうか。 「小数点第3位未満を切...…
FP4という浮動小数点演算4桁の割り当ては?
…NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか? 符号部 指数部 仮数部の割り当てです。…
【Excel】条件付き小数点以下の切り上げについて【関数】
…いろいろ方法を考えてみたのですが、お知恵をお貸しください。 Excelでの計算で困っていることがあります。 添付画像のように、税込計算の端数処理について現在目視・手入力をしている...…
検索で見つからないときは質問してみよう!