No.4
- 回答日時:
> 先輩から、fix関数やint関数はよく計算間違いを起こすので、
> 使用禁止と言われました。
> 私のロジックでは、Ccurで変換していたのですが、ストリング
> 変換しろって、言われましたから・・・
そいつ、リストラできませんか?
つーか、邪魔くさいので是非辞めて欲しいのですが。
No.3ベストアンサー
- 回答日時:
再び登場しました。
ひょっとすると先輩のおっしゃっているのは、単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
それならFIXやINTの問題ではなく、通貨型のような固定小数点型にフィールドのデータ型を指定したら良いと思いますが。小数点4位までならそのほうが安心でしょう。
>単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
そこまで、わかっていないと思うのですが・・・
私のロジックでは、Ccurで変換していたのですが、ストリング変換しろって、言われましたから・・・
fix関数が具体的に何をやっているのか、わからないものなんでしょうか?
No.2
- 回答日時:
マイナスの場合の切り捨て方に問題があります。
INTの場合1.5の場合1を返しますが、-1.5の場合-2を返します。例えば納品書の消費税の計算なんかでINTを使用すると、返品伝票などでマイナス値を使用する場合など、問題が発生すると思います。
FIX関数だと1.5の場合1を返しますが、-1.5の場合も-1を返します。
No.1
- 回答日時:
一般的ではなく、個人の経験に基づくものですね。
それに疑問をもつ事は良いことだと思います。
自分で一度いろいろ試してはいかがですか?
先輩がいってることの理解のたしにできるかもしれません、参考のURLを載せておきます。
http://www.twin.ne.jp/~dhamaoka/access/tips14.html
ありがとうございます。
小数部分が2進数で表現できないときに(無限)、
どこかで丸められちゃうって、ことでしょうか?
関数をあまり使いたくないのですが、
文字列関数や属性変換って、処理負荷がかかるような気がして・・・(<-汎用機あがりなもので・・・)
いろいろ試してみたいと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 ポインタ 配列 2 2022/06/02 17:29
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Visual Basic(VBA) VBAプログラミング 4 2023/01/14 00:38
- C言語・C++・C# 関数ポインタの高速化のメリット 7 2023/05/05 20:15
- Excel(エクセル) エクセルでround関数を使わないで四捨五入する方法 10 2022/08/12 15:43
- C言語・C++・C# c言語の問題です 3 2023/01/10 16:15
- C言語・C++・C# C言語の課題が出たのですが自力でやっても分かりませんでした。 要素数がnであるint型の配列v2の並 3 2022/11/19 17:41
- その他(プログラミング・Web制作) pythonのグローバル変数 2 2022/11/25 18:02
- Visual Basic(VBA) Excel のユーザー定義関数でソルバーが動作しない 1 2022/09/05 19:51
- Excel(エクセル) エクセル 関数について質問です。 2 2022/10/03 11:14
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
会いたくない人に会ってしまう...
-
よく俺の誕生日覚えてたねって...
-
一個年上の人にじゃあね〜って...
-
担当の指導者を変えて欲しいと...
-
結婚式でグラウンドショーマン...
-
高校生女子です。好きな先輩の...
-
女性に質問です!野獣先輩は好...
-
彼女いるのに他の女に「好き」っ...
-
先輩(40代)の送別会でうたう歌
-
嫌味の上手い返し方。 この間会...
-
最近の若いやつって先輩の命令...
-
こんばんは! 最近よく異性の先...
-
大学の先輩にご飯を奢ってもら...
-
あめんぼぷらすのおまつ先輩と...
-
職場で先輩から いじられるのが...
-
給料明細みられた!
-
先輩に誘われて、2日だけショッ...
-
こんばんは。30代女性です。 私...
-
先輩にさん付けしないでいいよ...
-
OBってなんの略?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
「○さんのほう」は丁寧に言う言...
-
よく俺の誕生日覚えてたねって...
-
結婚式でグラウンドショーマン...
-
彼女いるのに他の女に「好き」っ...
-
給料明細みられた!
-
担当の指導者を変えて欲しいと...
-
「弄られる」の言い換えや敬語...
-
先輩にさん付けしないでいいよ...
-
あめんぼぷらすのおまつ先輩と...
-
OBってなんの略?
-
なんでも否定する人の心理。 職...
-
とある機械の掃除なんですが、...
-
ヒモ男って犯罪ですか
-
会いたくない人に会ってしまう...
-
同性の先輩が手を振る心理
-
「初めて、初対面で年上の人に...
-
一個年上の人にじゃあね〜って...
-
一浪日東駒専と二浪MARCHと二浪...
-
タクシーの相乗りの支払いにつ...
-
大学での話なんですがための女...
おすすめ情報