ウォッチ
浮動小数点
の検索結果 (174件 1〜 100 件を表示)
浮動小数点の定数
…基本的なことで恐縮ですが、 float f = 1; float f = 1.f; および double d = 1; double d = 1.0; これらは、違いがあるのでしょうか。…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
基本情報の浮動小数点について
…基本情報技術者試験の勉強をしているのですが、浮動小数点の問題がどうしても解けません。問題を読んでもいまひとつ理解できず、四苦八苦しています。 下記の問題なのですが、教えて...…
浮動小数点の正規化方法について
…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。 問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ：ここでの正...…
浮動小数点の誤差のあわせ方
…文字列からdouble型変換で他のPGと誤差がでてしまうのですが、 なんとか同じBinaryにしたいので教えてください。 1.489を他のPGのHEXで表した結果では、 printf("1.489 = %08lx%08lx\n", atof((double)？...…
エラー：浮動小数点の不正な使用
…/*月ごとの平均気温・降水量を構造体の配列に格納した後、 */ /*年間平均気温、年間平均降水量を求めるプログラムを作成せよ。*/ #include void main(void) { int i; double total_kion, total_suiryo, ...…
浮動小数点の正規化の必要性について
… 浮動小数点の正規化の必要性について教えてください。 浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？ また浮動小...…
電卓の小数点
…今晩は。 先日、授業でVisual Studio(C#)を使い、 電卓を製作したのですが、 実行して０が表示されている状態で （普通の電卓の場合電源を入れた直後の状態） 小数点のキー"."を押すと、 ...…
エクセルの小数点以下表示
…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分（例えば小数点以下２位までの表示なら３位以下の部分）は四捨五入されているのでしょうか？デフォ...…
小数点以下の入力規則
…！教えてください！ セルの中に数値を入力するときに、小数点第２位までは数値が入力でき、小数点第３位に数値が入ると入力規則エラーがかかり入力できないように設定したいのですが...…
「不正な浮動小数点数演算命令」エラーでDVD-RWへ書き込みが出来ません。
…以前、TDKのDVD-RW CPRMのメディアをDVDレコーダー（パナソニック）にて 地デジ放送を録画していましたが、そのメディアを自分でカメラ撮りしたビデオ編集の DVD記録へ使おうとしてDVDオーサ...…
小数点以下０の非表示
…教えてください。 PostgreSQLでNUMERIC(8,3)のデータがあるのですが、 そのデータが小数点以下が０だった場合などに 0を表示させたくないのですがどのようにすればよいのでしょうか？ 2500.000...…
三菱タッチパネル小数点以下表示について
…三菱A960GOTの数値入力でキーウィンドウを表示して小数点以下を入力しても小数点以下が0になってしまい、困っています。 サーボモーターの移動幅入力なのですが、現在の数値入力方法が...…
小数点以下を別のセルに
…エクセルを使っていますが、 数字を打つと Ａ１ 12 Ｂ１ 13.5 と右に揃いますが、一桁目で揃えたいです。 Ａ１ 12 Ａ２ 13.5 となるようにです。 出来れば、 Ａ Ｂ ...…
Excelで勝手に小数点以下が増える
…Excel2013を使用しています 数式をいれて小数点以下を2桁など指定した後 そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりします これを勝手に小数点以...…
【Excel】条件付き小数点以下の切り上げについて【関数】
…いろいろ方法を考えてみたのですが、お知恵をお貸しください。 Excelでの計算で困っていることがあります。 添付画像のように、税込計算の端数処理について現在目視・手入力をしている...…
小数点以下の数字だけ小さいフォントで表示
…教えて下さい エクセルで少数点以下の桁、2まで表示するのですが 小数点以下の数字だけフォントを小さくして、小数点以下の数字だと言う事を分かりやすくしたいのですが方法はござい...…
EXCEL 小数点以下を小さいフォントの文字で・・
…XPを使用しています。 例えば12.345と入力した時、 12をフォント11のサイズで、小数点以下345をフォント8のサイズなど、 小数点以下を小さなフォントで表示することができますか？ 12.345...…
小数点以下切捨てした上での足し算
…書式設定で小数点以下の桁数0にし、整数での表示にさせています。 しかしそれらを足し算すると結局正確に小数点以下の数値まで 足されてしまいます。そうしないためには？…
printfの小数点以下の表示桁数につい
…Java超初心者です。宜しくお願い致します。 System.out.printf("%8f\n",15.8); は８桁表示のはずですが、 実行すると、 15.800000 と、いう風に９桁になります。 詳しい方はきっと当たり前と思うと思...…
Excelの小数点以下表示・非表示の方法について
…Excel2000において、小数点以下の表示方法について教えてください。 条件は以下の通りです。 (1)小数点以下が存在するときは、小数点以下第2位まで表示する。 ※小数点以下第3位の処理は...…
VBA：小数点以下の数字を取得できる関数は？
…VBAで、小数点以下の数字を取得できる関数または、それに必要な関数を教えていただけたらと思います。たとえば、 1.325…から0.325 3.256224から0.256224 5.23549から0.23549を取得。 といった感...…
Access-フォームの小数点以下が切り捨てられてしまう
…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。 現在、テーブルのデータ型は数値型...…
小数点以下は、どこまで計算するのですか？
…初歩的な質問で、すみません。 電験３種の計算問題についてなんですが、 小数点以下は、なん桁まで計算するのが良いのでしょうか？ 通常の解答をするには、小数点以下は、なん桁ま...…
テーブルに小数点以下の値を入れたい場合
…アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか？ どちらも小...…
小数点以下「3桁で」四捨五入？「3桁を」四捨五入？
…小数点第3位を四捨五入して、小数点第2位までの数値にすることを、 「小数点以下3桁で四捨五入する」というのは正しい日本語ですか？ 「小数点以下3桁を四捨五入する」の方が正しいで...…
Excel 小数点以下を切り捨てた値を集計する方法
…エクセル2010を使っている者です。 小数点以下を切り捨てた状態で集計する方法についてお教えください。 A1 3 B1 9 C1 A2 =rounddown(A1*0.8) B2 =ro...…
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
１６ビットの符号付固定小数点の使い方について
…１６ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで１４～０ビットが少数部という データフォーマットだった場合、－０，２５を表すとしたら、 ０．２５に符号ビッ...…
小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記...
…小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記号がないのはなぜでしょうか？ ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。 小数...…
EXCEL 小数点以下の桁数を条件によって変えるには
…Ｇ列の書式設定を数値、小数点以下０桁に設定してあります Ｄ列にある特定の文字が入力された時だけ、小数点以下の桁数を１桁にしたいのですが、どのようにすればよいでしょうか？ そ...…
Excelの小数点以下の桁数の既定値を変更する
…いつも勉強させていただいております。 Excelで数値（例えば50000）を入力して、桁区切りをすると、勝手に50,000.00と小数点第二位までが表示されてしまいます。 私はただ50,000という風にな...…
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
【FLASH】小数点以下の「0」も表示したい。（1 → 1.0 など）
…FLASH８（Win-XP）使用者です。 残り時間の秒数などを小数点以下第１位まで表示させたい場合、通常のやり方、 hyoji.text = Math.floor(jikan*10)/10; などですと、小数点以下が0の場合は0が表示さ...…
Access 倍精度浮動小数点型について。。。
…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。 このよう...…
AccessからExcelへエクスポート時に小数点以下の桁数がおかしく
…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。 以下エ...…
アクセス クエリ計算の小数点以下の四捨五入は自由にできるのですか
…クエリ計算の小数点以下の四捨五入は、項目ごとに自由に切り上げにしたり、切り捨てにしたり設定できるのですか。 それともクエリではなくフォームやレポートの設定で行うのでしょう...…
エクセルで複数から参照した場合の小数点以下の0の表示
…初めて質問させていただきます。 エクセル2000で セルA1に2.00 セルA2に3.00 セルA3に="("&A1&")("&A2&")" とした場合、小数点以下の.00が消えてしまいますが、 表示させる方法はありますか？ ま...…
小数点以下が０になるときの考え方について教え得て頂けると幸いです。小学
…小数点以下が０になるときの考え方について教え得て頂けると幸いです。小学算数の指導方法は理解できました（下のサイト）。たとえば12.0という数字では、実測に関する場合には小数点以...…
FP4という浮動小数点演算4桁の割り当ては？
…NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか？ 符号部 指数部 仮数部の割り当てです。…
１６ビット浮動小数点数の表現方法について
…学校の課題において、ある数を２進数で表現し、さらにその数を１６ビット浮動小数点数で表しなさい。またそのとき生じる誤差の名称を記しなさい、という課題がでており取り組んでいる...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
条件付き書式で ０を表示しない 10未満は小数点以下1桁表示 にする方法は？
…いつもｇｏｏの皆さんには大変お世話になっています お陰様で、エクセルを勉強し始めて1年、大変進歩しました エクセルとマクロの引き出し（自分メモ）も随分と増えました 条件付き...…
エクセルで四捨五入した数値に小数点以下第１位の０を表示させ、文字と合わせて表示させる...
…エクセルで、 四捨五入した数値に、＊をつけて小数点以下第１位まで表示させるのに、数式の中で、"*"&(ROUND(A1,1))を使いました。例えば、1.01の時、小数点１位の０が表示されず、*1となって...…
以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指...
…以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット、仮数部4ビットで構成されるとしたとき、10進数 0.1 を以下に示す過程で浮動小数点...…
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？
…10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか？ 計算方法を...…
「小数点以下２桁」と「小数点２桁」
…「小数点以下２桁」と「小数点２桁」 「小数点以下２桁」という表現は正しいかと思うのですが、 同じ意味で「小数点２桁」という記載は正しいのでしょうか？ できれば、出展を添えて...…
wsprintfで浮動小数を扱うには？
…＜プログラム環境＞ Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース ＜質問＞ wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
小数点入力チェック
…以下の処理を入力チェックしたいのですが、どうしたら宜しいのでしょうか？お願いします。 num="1.999" →OK num="1.11" →OK num="1" →OK num="11.11" →NG if(!num.match(/[0-9]*\.[0-9][0-9][0-9]+/)){ aler...…
小数点切捨て表示
…printf（printf以外でもＯＫです）にて浮動小数点を画面に表示するときに、小数点第3位以下を切り捨てて表示したいのですが、書式指定等をどのように指定すればよいでしょうか。 回答よろ...…
エクセルのセル表示。整数は整数、小数点は小数点で。
…エクセル2003です。 セルに数値を入力した際、以下のようにすることは可能でしょうか。 (1)5と入力→5と表示 (2)5.5と入力→5.5と表示 セルの書式設定で小数点表示の設定、例えば小数点1...…
excelで、小数点
…初心者です。 会社ですでにあるデータを元に、新しい表を作成しなくてはならなくなりました。 そこで質問です。 ３４４００００→３．４４ というふうに数値を変更したいのですが...…
エクセルマクロ小数点桁数
…テキストデータからエクセルマクロで吸出しを行う中で 数値データをNumberFomatLocalでカンマと小数点を指定したいのですが 小数点以下がセルによって2桁3桁だったり、なかったりとバラバラ...…
四季報 浮動株と特定株を足したら
…四季報の読み方について疑問に思ったことよろしくお願いします。 浮動株と特定株を足しても100パーセントにならないのですが、なぜでしょうか？ 特定の誰かが持っている それとも 特...…
ＶＢＡ 小数点の割り算
…お世話になります。 以下のように計算をしたいのですが。 Dim A_DATE As Single Dim B_DATA AS Single Dim C_DATA AS Single A_DATA = 69.63 B_DATA = 1651.8 C_DATA = A_DATA / B_DATA とすると C_DATAには希望は0.0421...…
VBの小数点周り
…以前から思っていたのですが、VBの小数点ってあやしくないですか？ 変な現象を見つけたので、知っている方がいたら教えていただきたいのです。 小数点以下、四捨五入をしようと思い...…
確認申請 小数点 四捨五入？
…ちょっと、おしえてください。 今、申請書を書いています。 今時、考えられない急ぎの申請です。 まだ、余裕をもつという事を知らない人々がいるのです（笑）。 私は、ずっと、面積...…
トリクル充電と浮動充電、均等充電の違い。
…トリクル充電、浮動充電、均等充電の仕組みなどを教えていただきたい。 なんとなくは分かるのですが、理論的な事が何一つ分からないのです。 どんなときにコレ、こんなときはコレとか...…
小数点第1位切り上げ?
…小数点第1位を切り上げしなさい?問いに質問です。 5.04の場合,答えは5ですか?それとも6ですか? 私は5と思っていたのですが,エクセルで表計算したときにこの答えでは 6になりますので自身...…
0による不動小数点数除算. ?
…「0による不動小数点数除算.」というエラーはなぜ発生するのか。 それを回避する方法は何か、教えてください。 ネットで調べてみましたが、勉強不足でよくわからないのです。 Windoes7 32bit...…
jsp double型の小数点表示
…質問させて下さい。 計算結果の表示でdouble型を使いたいのですが、 「1.5」、「2.5」などは小数点を表示させて問題ないのですが、 「1」、「2」と表示させたい時に「1.0」、「2.0」と小数...…
小数点第一位とは・・・
…小数第一位とは、小数のどの位ですか？ Ｗｉｋiを見てもさっぱりです。 例えば、1.23456・・・とあると、どの数字が小数点第一位で、第2位なのかわかりません。 数学と言うより、...…
小数点の掛け算(暗算）の仕方…
…小数点の掛け算を暗算でしたいのですが、自分は暗算が得意な方ではありません。。 せめて小数第１位、できて第２位までの計算がしたいのですが、今のところ小数どうしの掛け算が暗算...…
小数点第3位を四捨五入
…０，３６５ の小数点第3位を四捨五入すると、 ０．３７かとおもったんですけど、 解答では０，３７４でした。。。。 普通０，３７ではなかったでしたっけ？？？ 初歩的な質問で申し訳...…
数字（小数点付き）の取り出し方
…お世話になります。 次のような文字列から「81.59」を数字として取り出したいのですが Perlを始めたばかりで途方に暮れています。 81.59円 上記から81.59を数字として取り出す方法を教えて...…
エクセル 小数点第2位 切捨て方法
…エクセル（XPです）で小数点第2位の切捨てをしたいのですが （何もしないと四捨五入してしまいます） どなたか教えていただけますでしょうか？ 例えばなのですが、 7900/34700*100＝22.7665...…
アクセスでの小数点の切り上げについて
…分かる方、教えてください。 アクセスで小数点を切上げて、整数にする場合、 上手い方法はあるのでしょうか？ 少数 整数 0.5 → 1 1.1 → 2 1.5 → 2 よろし...…
ACCESS 除算での小数点切上げ方法
…こんにちは。 ACCESSを使った入力フォームにて、除算の自動計算を考えております。 テキストボックスAに入力された数値÷テキストボックスBに入力された数値 の結果をテキストボッ...…
エクセルで、小数点以下がないときに小数点を表示させない方法 ＋語尾に「（半角スペース）%...
…エクセルで、小数点以下がないときに小数点を表示させない方法 ＋語尾に「（半角スペース）%」を表示させる方法を教えてください。 ↓このようにしたいです。 入力 表示 50 ...…
Excel 入力規則 小数点数とは
…Excel 入力規則の「小数点数」という言葉の意味がよくわかりません。 どういう数値の、どういう小数点の入力条件を決めるのでしょうか。 教えてください、よろしくお願いします。…
差し込み印刷での小数点表示について
…マイクロソフト2010での差し込み印刷で困っています。 エクセルの数字のデータをワードで差し込み印刷しようとすると、小数点以下が１０桁くらい表示されてしまいます。 エクセルのデ...…
ファイルメーカーで小数点以下の切り上げ
…ファイルメーカーで小数点以下の切り上げをするに、どのような関数を使えばよろしいでしょうか？ 四捨五入と切り捨ては標準であるのですが、切り上げが見当たらず、またどのように計...…
エクセルで小数点でセルを分割する
…例えば 10.26（1セル）を10と26を別（2セル）のセルに表示する。 5.1であれば5と1 123.62であれば123と62と このようにセルを分割して表示することは可能でしょうか。 素人で恐縮ですが、ア...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 Ｂ11-B15...…
固定小数点表現で表せる整数の範囲
…超初級者ですが、検索しても分からなかったので よろしくお願いします。 ２進法、nビットの場合、 －２（n-1）乗～２(n-1)乗－１ と書いてあるのですが、 何故－２(n-1)乗＋１～ で...…
Accessで小数点以下の桁数を・・？
…教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以...…
エクセルの小数点、パーセントについて教えてください。
…Microsoft Excelで、％をつけたいのですが、小数点第１までしかいらないのですが、パーセントをつけると、自動に0がつき、少数第２まで、なってしまいます。 これはどうしたら、勝手に０を...…
ドイツ語 小数点のついた数字の読み方
…テキストに次の文があります。 Berlin hat ungefaehr 3,5 Millionen Einwohner. 文中の3,5をどのように読めばよいのでしょうか。 どなたか教えていただけないでしょうか。 よろしくお願いいたします。…
VB6.0での小数点の扱いについて
…現在、VB6.0を使用しており、小数点の扱いに困っています。 Sub Keisan() Dim A As String Dim B As String Dim C As String A = 1.29033 B = 1.91458 C = CStr(A + CDec((B - A) / 6) * 3) Ms...…
Excelで小数点をカンマに変更する関数
…お世話になります。 I列の数字の小数点をカンマにしたいです。 （例： 1007.25 を1007,25にする） 通貨のユーロ表記にするためです。 今までは下記のような関数を使っていました。 =SUBSTIT...…
検索で見つからないときは質問してみよう！
質問する（無料）
