
No.3ベストアンサー
- 回答日時:
再び登場しました。
ひょっとすると先輩のおっしゃっているのは、単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
それならFIXやINTの問題ではなく、通貨型のような固定小数点型にフィールドのデータ型を指定したら良いと思いますが。小数点4位までならそのほうが安心でしょう。
>単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
そこまで、わかっていないと思うのですが・・・
私のロジックでは、Ccurで変換していたのですが、ストリング変換しろって、言われましたから・・・
fix関数が具体的に何をやっているのか、わからないものなんでしょうか?
No.4
- 回答日時:
> 先輩から、fix関数やint関数はよく計算間違いを起こすので、
> 使用禁止と言われました。
> 私のロジックでは、Ccurで変換していたのですが、ストリング
> 変換しろって、言われましたから・・・
そいつ、リストラできませんか?
つーか、邪魔くさいので是非辞めて欲しいのですが。
No.2
- 回答日時:
マイナスの場合の切り捨て方に問題があります。
INTの場合1.5の場合1を返しますが、-1.5の場合-2を返します。例えば納品書の消費税の計算なんかでINTを使用すると、返品伝票などでマイナス値を使用する場合など、問題が発生すると思います。
FIX関数だと1.5の場合1を返しますが、-1.5の場合も-1を返します。
No.1
- 回答日時:
一般的ではなく、個人の経験に基づくものですね。
それに疑問をもつ事は良いことだと思います。
自分で一度いろいろ試してはいかがですか?
先輩がいってることの理解のたしにできるかもしれません、参考のURLを載せておきます。
http://www.twin.ne.jp/~dhamaoka/access/tips14.html
ありがとうございます。
小数部分が2進数で表現できないときに(無限)、
どこかで丸められちゃうって、ことでしょうか?
関数をあまり使いたくないのですが、
文字列関数や属性変換って、処理負荷がかかるような気がして・・・(<-汎用機あがりなもので・・・)
いろいろ試してみたいと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 ポインタ 配列 2 2022/06/02 17:29
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Visual Basic(VBA) VBAプログラミング 4 2023/01/14 00:38
- C言語・C++・C# 関数ポインタの高速化のメリット 7 2023/05/05 20:15
- Excel(エクセル) エクセルでround関数を使わないで四捨五入する方法 10 2022/08/12 15:43
- C言語・C++・C# c言語の問題です 3 2023/01/10 16:15
- C言語・C++・C# C言語の課題が出たのですが自力でやっても分かりませんでした。 要素数がnであるint型の配列v2の並 3 2022/11/19 17:41
- その他(プログラミング・Web制作) pythonのグローバル変数 2 2022/11/25 18:02
- Visual Basic(VBA) Excel のユーザー定義関数でソルバーが動作しない 1 2022/09/05 19:51
- Excel(エクセル) エクセル 関数について質問です。 2 2022/10/03 11:14
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
「○さんのほう」は丁寧に言う言...
-
彼女いるのに他の女に「好き」っ...
-
担当の指導者を変えて欲しいと...
-
愚痴るようで申し訳ありません...
-
タクシーの相乗りの支払いにつ...
-
長文失礼します。 会社の先輩に...
-
小学生の子が野獣先輩は何をし...
-
人に説教する自信はどこからく...
-
責任取りたくない男に言われた...
-
こんばんは。30代女性です。 私...
-
黒歴史を消したいです。私の黒...
-
女性の先輩について考えすぎですか
-
ACCESSのint関数、fix関数につ...
-
先輩にさん付けしないでいいよ...
-
人の死を神社で神に願うことに...
-
キモ過ぎる先輩と縁切るには?
-
学校で、金管バンド部やってる...
-
今年の福男の末路・・・
-
先輩にまた連絡しても良いのだ...
-
一個年上の人にじゃあね〜って...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
「○さんのほう」は丁寧に言う言...
-
彼女いるのに他の女に「好き」っ...
-
アニメ「君の名は」の何が好き...
-
担当の指導者を変えて欲しいと...
-
女性の先輩について考えすぎですか
-
残業中に男性の先輩にあげたお...
-
タクシーの相乗りの支払いにつ...
-
よく俺の誕生日覚えてたねって...
-
給料明細みられた!
-
人間関係で悩んでいる友人がいます
-
一浪日東駒専と二浪MARCHと二浪...
-
同性の先輩が手を振る心理
-
一個年上の人にじゃあね〜って...
-
他人に服を貸したくない時の断り方
-
人に説教する自信はどこからく...
-
先輩にさん付けしないでいいよ...
-
人の死を神社で神に願うことに...
-
ヒモ男って犯罪ですか
-
顰に倣う、の意味、用法について
-
「弄られる」の言い換えや敬語...
おすすめ情報