［浮動小数点数］についての検索結果(約10000件中 61〜80件を表示)

Ａｃｃｅｓｓの桁区切りについて教えてください。

…アクセスのレポートの金額に、桁区切りのカンマを付けたいと思っています。プロパティの書式を通貨にすると￥マークがついてしまいます。合計は付いてもいいのですが、内訳には￥マ...…

Exｃelで、小数点以下を自動省略なしに表示するには？

…Excelのセルに8.00と入れて確定すると、8だけになって小数点以下が自動省略されてしまいます。小数点以下を省略せずに、入力した通りに8.00と表示する方法を教えてください。…

floatの有効桁数

…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…

2009/12/18 20:59
C言語・C++・C#
回答数(4)

四季報　浮動株と特定株を足したら

…四季報の読み方について疑問に思ったことよろしくお願いします。浮動株と特定株を足しても100パーセントにならないのですが、なぜでしょうか？特定の誰かが持っている　それとも　特...…

DirectX　～テクスチャに値を書き込む～

…m_pDevice->CreateTexture( 128, 128, 1, 0, D3DFMT_A32B32G32R32F, D3DPOOL_MANAGED, &pTex, NULL ); で生成したテクスチャに浮動小数点の値を自分で書き込みたいのですが、うまくいきません。 ...…

2007/12/06 03:34
C言語・C++・C#
回答数(2)

小数点以下を別のセルに

…エクセルを使っていますが、数字を打つとＡ１　　12 Ｂ１　13.5 　と右に揃いますが、一桁目で揃えたいです。Ａ１　12 Ａ２　13.5　となるようにです。出来れば、　　Ａ　Ｂ　　　...…

３０年前のスーパーコンピューター

…こんな資料を見つけました。「１９８２年年富士通が開発したスーパーコンピューター、浮動小数点を１秒間に５億回」文系のわたしには何のことかわかりませんが、この３０年前のスー...…

小数点以下の入力規則

…！教えてください！セルの中に数値を入力するときに、小数点第２位までは数値が入力でき、小数点第３位に数値が入ると入力規則エラーがかかり入力できないように設定したいのですが...…

数値計算における誤差について

…小数点以下５～６桁の数値（整数部は１～５桁）を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差（0.2...…

2008/02/06 11:23
その他（OS）
回答数(6)

エクセルのセル表示。整数は整数、小数点は小数点で。

…エクセル2003です。セルに数値を入力した際、以下のようにすることは可能でしょうか。　(1)5と入力→5と表示　(2)5.5と入力→5.5と表示セルの書式設定で小数点表示の設定、例えば小数点1...…

VB.NETで小数点以下の桁数を取得したい

…　こんばんは。 VB.NETで1つ教えて下さい。小数点以下の桁数を取得したいのですがどのようにすると良いのでしょうか？例えば 1.5なら1 2.12なら2 2.555なら3と取得したいのです。解るかた...…

三菱シーケンサ（Aシリーズ）で小数点を持つ値を扱いたいのですが。。。

…最近、仕事で必要に迫られてシーケンサの勉強を始めた者です。今回、小数点以下第２位まで持つ値をタッチパネル上で入力して、それをシーケンサに転送して演算させなければいけないの...…

浮動充電方式の直流電源装置ってどういった物がありますか？浮動ってなにが浮いているんで...

…浮動充電方式の直流電源装置ってどういった物がありますか？浮動ってなにが浮いているんですか？…

【Excel VBA】10進数を2進数に直したい

…ExcelのVBAで単精度浮動点小数(以下、小数)を16進数に直すためにコードを書いています。頭の中では、小数→整数部分と小数点以下に分解→2進数→16進数に変換処理という流れはできていま...…

小数点以下の数字だけ小さいフォントで表示

…教えて下さいエクセルで少数点以下の桁、2まで表示するのですが小数点以下の数字だけフォントを小さくして、小数点以下の数字だと言う事を分かりやすくしたいのですが方法はござい...…

平均値のもとめ方

…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか？ select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…

2005/07/27 20:14
SQL Server
回答数(1)

浮動小数点数