
No.2ベストアンサー
- 回答日時:
http://msdn.microsoft.com/ja-jp/library/b1e65aza …
> 有効桁数: 7 桁
です。 9999999.999999 を入れようとしたら、途中で打ち切って概数にする必要があります。
9999999.999999 を有効数字7桁にするには、 9999999 で .999999 を四捨五入するとかする必要があります。
四捨五入すれば 10000000 です。
これは 1.0 * 10の7乗 であり、これを「指数表現」という方式で表現したのが 「1E+07」 です。
対策ですが
・C#でfloatを使うのなら、あきらめるしかありません。
・doubleを使うと、SQLiteのREALと同じ精度になります。
> 有効桁数: 7 桁
です。 9999999.999999 を入れようとしたら、途中で打ち切って概数にする必要があります。
9999999.999999 を有効数字7桁にするには、 9999999 で .999999 を四捨五入するとかする必要があります。
四捨五入すれば 10000000 です。
これは 1.0 * 10の7乗 であり、これを「指数表現」という方式で表現したのが 「1E+07」 です。
対策ですが
・C#でfloatを使うのなら、あきらめるしかありません。
・doubleを使うと、SQLiteのREALと同じ精度になります。
No.1
- 回答日時:
情報が不足しすぎいます。
・C#で使っているSQLiteのドライバは何ですか?
System.Data.SQlite.dll ?
・INSERTはC#コードで実行していますか?
・SELECTはC#コードで実行していますか?
また、そのコードはどのようなモノでしょうか?
↑C#でSELECTしているのであれば、ここの記述を
間違えている可能性が高いでしょう
・コマンドラインなど別の方法で SELECTした場合の
結果はどうなっていますか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
SQL文のエラー
-
sqlplusでヘッダーが付かない
-
Access VBAで行ラベルが定義さ...
-
Statement ignored というエラー
-
Accessのマクロでモジュールを...
-
Accessでのプロシージャの呼び...
-
日付型カラムへのデータINSERT
-
PL/SQLでSPOOLさせたいのですが...
-
2016.3.2を日付として認識させたい
-
ACCESS、時間ごとの集計の仕方は?
-
sp_executesqlを実行してもテー...
-
Oracle 10gで順序sequenceの作...
-
ROW_NUMBER()を使用したデータ取得
-
ストアド実行時のエラー「参照...
-
OutlookVBAで作成したマクロに...
-
ストアドプロシージャからアナ...
-
SQLで部分的にGROUP BYしたいとき
-
キャッシュを使わずにSELECTを...
-
SQL Sever での日付の差の求め...
-
PL/SQLカーソルの2重FORループ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
SQL文のエラー
-
SSIS 変数の値をSQL実行タスク...
-
SQL文を教えてください
-
クエリファイルから外部のクエ...
-
sqlcmdの自動実行方法について
-
SQLiteのREAL型について
-
百の位での四捨五入について
-
Accessのマクロでモジュールを...
-
Statement ignored というエラー
-
Access VBAで行ラベルが定義さ...
-
sqlplusでヘッダーが付かない
-
キャッシュを使わずにSELECTを...
-
callで順に実行されるプロシー...
-
ODBCリンクの際にACCESSでは読...
-
SQLserver算術オーバーフロ...
-
sqlplusのspoolで空白行出現
-
重複するIDのデータを1行にま...
-
Accessの数値から時間に変換す...
-
PL/SQLでSPOOLさせたいのですが...
-
DBMS_OUTPUT.PUT_LINEを実行し...
おすすめ情報