
No.3ベストアンサー
- 回答日時:
再び登場しました。
ひょっとすると先輩のおっしゃっているのは、単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
それならFIXやINTの問題ではなく、通貨型のような固定小数点型にフィールドのデータ型を指定したら良いと思いますが。小数点4位までならそのほうが安心でしょう。
>単精度浮動小数点とか倍精度浮動小数点型にすると桁落ちしたりという事を言っているのではないでしょうか。
そこまで、わかっていないと思うのですが・・・
私のロジックでは、Ccurで変換していたのですが、ストリング変換しろって、言われましたから・・・
fix関数が具体的に何をやっているのか、わからないものなんでしょうか?
No.4
- 回答日時:
> 先輩から、fix関数やint関数はよく計算間違いを起こすので、
> 使用禁止と言われました。
> 私のロジックでは、Ccurで変換していたのですが、ストリング
> 変換しろって、言われましたから・・・
そいつ、リストラできませんか?
つーか、邪魔くさいので是非辞めて欲しいのですが。
No.2
- 回答日時:
マイナスの場合の切り捨て方に問題があります。
INTの場合1.5の場合1を返しますが、-1.5の場合-2を返します。例えば納品書の消費税の計算なんかでINTを使用すると、返品伝票などでマイナス値を使用する場合など、問題が発生すると思います。
FIX関数だと1.5の場合1を返しますが、-1.5の場合も-1を返します。
No.1
- 回答日時:
一般的ではなく、個人の経験に基づくものですね。
それに疑問をもつ事は良いことだと思います。
自分で一度いろいろ試してはいかがですか?
先輩がいってることの理解のたしにできるかもしれません、参考のURLを載せておきます。
http://www.twin.ne.jp/~dhamaoka/access/tips14.html
ありがとうございます。
小数部分が2進数で表現できないときに(無限)、
どこかで丸められちゃうって、ことでしょうか?
関数をあまり使いたくないのですが、
文字列関数や属性変換って、処理負荷がかかるような気がして・・・(<-汎用機あがりなもので・・・)
いろいろ試してみたいと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 ポインタ 配列 2 2022/06/02 17:29
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Visual Basic(VBA) VBAプログラミング 4 2023/01/14 00:38
- C言語・C++・C# 関数ポインタの高速化のメリット 7 2023/05/05 20:15
- Excel(エクセル) エクセルでround関数を使わないで四捨五入する方法 10 2022/08/12 15:43
- C言語・C++・C# c言語の問題です 3 2023/01/10 16:15
- C言語・C++・C# C言語の課題が出たのですが自力でやっても分かりませんでした。 要素数がnであるint型の配列v2の並 3 2022/11/19 17:41
- その他(プログラミング・Web制作) pythonのグローバル変数 2 2022/11/25 18:02
- Visual Basic(VBA) Excel のユーザー定義関数でソルバーが動作しない 1 2022/09/05 19:51
- Excel(エクセル) エクセル 関数について質問です。 2 2022/10/03 11:14
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・一番好きなみそ汁の具材は?
- ・泣きながら食べたご飯の思い出
- ・「これはヤバかったな」という遅刻エピソード
- ・初めて自分の家と他人の家が違う、と意識した時
- ・いちばん失敗した人決定戦
- ・思い出すきっかけは 音楽?におい?景色?
- ・あなたなりのストレス発散方法を教えてください!
- ・もし10億円当たったら何に使いますか?
- ・何回やってもうまくいかないことは?
- ・今年はじめたいことは?
- ・あなたの人生で一番ピンチに陥った瞬間は?
- ・初めて見た映画を教えてください!
- ・今の日本に期待することはなんですか?
- ・集中するためにやっていること
- ・テレビやラジオに出たことがある人、いますか?
- ・【お題】斜め上を行くスキー場にありがちなこと
- ・人生でいちばんスベッた瞬間
- ・コーピングについて教えてください
- ・あなたの「プチ贅沢」はなんですか?
- ・コンビニでおにぎりを買うときのスタメンはどの具?
- ・おすすめの美術館・博物館、教えてください!
- ・【お題】大変な警告
- ・洋服何着持ってますか?
- ・みんなの【マイ・ベスト積読2024】を教えてください。
- ・「これいらなくない?」という慣習、教えてください
- ・今から楽しみな予定はありますか?
- ・AIツールの活用方法を教えて
- ・最強の防寒、あったか術を教えてください!
- ・歳とったな〜〜と思ったことは?
- ・モテ期を経験した方いらっしゃいますか?
- ・好きな人を振り向かせるためにしたこと
- ・スマホに会話を聞かれているな!?と思ったことありますか?
- ・それもChatGPT!?と驚いた使用方法を教えてください
- ・見学に行くとしたら【天国】と【地獄】どっち?
- ・これまでで一番「情けなかったとき」はいつですか?
- ・この人頭いいなと思ったエピソード
- ・あなたの「必」の書き順を教えてください
- ・14歳の自分に衝撃の事実を告げてください
- ・人生最悪の忘れ物
- ・あなたの習慣について教えてください!!
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
「○さんのほう」は丁寧に言う言...
-
彼女いるのに他の女に「好き」っ...
-
同性の先輩が手を振る心理
-
一個年上の人にじゃあね〜って...
-
一浪日東駒専と二浪MARCHと二浪...
-
高2女子です。
-
先輩にさん付けしないでいいよ...
-
タクシーの相乗りの支払いにつ...
-
担当の指導者を変えて欲しいと...
-
給料明細みられた!
-
最近の若いやつって先輩の命令...
-
自分は昨日保育園のそうじにい...
-
会社の先輩に家族からの電話を...
-
「弄られる」の言い換えや敬語...
-
送迎に関するお礼(長文)
-
フレームグラウンド FGとSGの...
-
大学の先輩にご飯を奢ってもら...
-
他人に服を貸したくない時の断り方
-
バイトの先輩から嫌なあだ名を...
-
黒歴史を消したいです。私の黒...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
「○さんのほう」は丁寧に言う言...
-
彼女いるのに他の女に「好き」っ...
-
担当の指導者を変えて欲しいと...
-
タクシーの相乗りの支払いにつ...
-
よく俺の誕生日覚えてたねって...
-
一浪日東駒専と二浪MARCHと二浪...
-
給料明細みられた!
-
同性の先輩が手を振る心理
-
一個年上の人にじゃあね〜って...
-
ヒモ男って犯罪ですか
-
大学の先輩にご飯を奢ってもら...
-
会いたくない人に会ってしまう...
-
他人に服を貸したくない時の断り方
-
人に説教する自信はどこからく...
-
フレームグラウンド FGとSGの...
-
黒歴史を消したいです。私の黒...
-
OBってなんの略?
-
高2女子です。
-
社員寮の騒音問題
-
先輩にさん付けしないでいいよ...
おすすめ情報