ウォッチ
型 decimal
の検索結果 (18件 1〜 18 件を表示)
有効桁数について
…以下のようなデータ型の掛け算を行った場合の 有効桁数について教えてください。 decimal(38,4) × decimal(26,25) 私が確認したところ、 decimal(38,6)になっているようです。 なぜこのよう...…
C# 巨大な文字列の計算をさせたい
…お世話になります。 C#にて、文字列からなる計算式 string s = "(3270+(5*4))/7"; のようなものを計算して 値を返す処理を作成したいと思っています。 http://dobon.net/vb/dotnet/programing/eval.html ↑上記...…
visualstudioでコンパイルできません
…public SysInfoPanel() { Text = "System Information: Panel"; BackColor = SystemColors.Window; ForeColor = SystemColors.WindowText; AutoScroll = true; Graphics grfx = CreateGraphics(); SizeF ...…
-3.34 が -3.3399999999999999 で表示される
…SQLServer2005でfloat型の項目に-3.34 を手入力（クエリアナライザでinsert文で入力した時も同様）して、コマンドプロンプトから以下のselect文を実行した所、-3.3399999999999999 で表示されました。 sql...…
SQLServerのテーブル定義書（？）を作るツールはないでしょうか？
…おはようございます。 プログラムからSQLServerのデータを使う必要があるのですが、 テーブル定義書（あるテーブルのフィールド名や型、サイズなど）を調べる必要がでてきました。 今...…
Float型の時の計算結果がおかしい
…ユーザー側で、Microsoft SQL Server2000を使用しています。 計算結果がおかしいので、仕事場で、SQL2008環境で互換モードでも、以下の現象が出てこまって おります。テストで、確認しました。 23...…
データ型でFloatとreal の計算の違い？
…教えてください。 ストアドでfloor(数量（reat) × 単価(money))=金額という計算をさせています。 そこで、200(コ)×9.4(円)=1879円と出るのです。floorで切り捨てても、1880円のはずです。flootなし...…
10進数を2進数に変換するには・・・
…前にも質問された方がいらっしゃるかもしれないですが検索してもわからなかったのでお願いします。 C言語で10進数を2進数に変換するためにはprintf文を使用して表すことはできないですよ...…
カラムサイズの取得
…度々の質問で少々気恥ずかしいのですが・・・ 先日カラム一覧を取得する方法として、多くのRDBMSではシステムカタログを 参照するのが一般的な方法ということを教えて頂きました。 現...…
sql serverのテーブルレイアウトの印刷
…現在、Ｄ／Ｂの設計を行っています。 ｓｑｌ server(7.0)でフイールド等の設定をしています。 その結果のテーブルレイアウトの印刷は、出来るのでしょうか。 また、文字型(chr、varchar、nch...…
SQL Serverにおける小数部の０表記について
…お世話になっております FLOAT型の数値を補正する為に、小数部10桁のdecimal型に変換すると 例えば 3.14 ならば 3.1400000000 と表示されてしまいます RTRIMで０を消そうと思ったのですが、SQL Serv...…
計算の丸め誤差の解消について
…プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしま...…
C# DataGridView列カスタマイズ
…C#でDataGridViewの列にNumericUpDownにしたくカスタマイズを行っています。 http://msdn.microsoft.com/ja-jp/library/7tas5c80(VS.80).aspx こちらのサイトを参考にし以下のソースになりました。 public class NumericU...…
C# アプリ終了時に設定を記憶し、起動時に呼び出す
…Visual Studio C# 2012でアプリを作成しています。 以下のような処理ができるようにしたいのですが、何か良い方法はありますでしょうか？ --------------------------------------------------------------- numericup...…
Pythonについて。
…以下のURLで、https://www.javadrive.jp/python/string/index1.html#google_vignette 文字列は変数に格納したり、 print 関数の引数に指定して画面に出力することができます。というのは、数字列では成り立たな...…
#ワークテーブルにinsert時 変換エラー
…お伺いします。 SELECT a , WHEN ISNUMERIC(b) = 1 THEN b ELSE 0 END AS b into #hoge from table と言うSQL文があります。 型としましては、 aはdecimal(16.4)、bはnvarchar(256)とします。 bに'999999999'が...…
C#にて電卓を作りたいのですが、大きな数を使用
…お世話になります。 勉強のため、電卓を作ってみようと思っています。 基本的なことは解っているのですが、一つ問題があります。 99999999999.99999999 等の様な、intにもdoubleにも入らないよ...…
計算速度の速いC言語を教えてください！
…C++、C++/CLI、C#のどれかを初めて勉強しようと思っているのですが、どの言語を学んだらよいでしょうか？ 主にやりたいことは、スプレッドシート上での計算を数千万回繰り返す計算とグラ...…
検索で見つからないときは質問してみよう！
質問する（無料）
