ウォッチ
固定小数点
の検索結果 (10,000件 221〜 240 件を表示)
COBOLの桁落ち
…a pic S9(１３）COMP-3 VALUE ００１２３４５６７８９０１． ｂ pic S9(11) OCCURS 14. c pic --,---,---,--9. aのデータをｂに渡します。 ｂは渡されたデータを集計します。 集計したデータをｃに渡し...…
エクセルで３捨４入
…企業の賃金表の計算をエクセルで行っているのですが、４捨５入ではなく、３捨４入をしたいのですが、どうしたらいいでしょうか？ 関数を探したらないようなのですが、何か良い方法は...…
カントールの対角線論法について質問です。
…カントールの対角線論法について質問です。野矢茂樹著の「無限論の教室」によると、 x0 = 0.1111... x1 = 0.1011... x2 = 0.0111... x3 = 0.1010... ... のように 0 から 1 までの小数を２進数で列挙して...…
エクセル 時刻の計算（小数の計算） ファイルにより計算結果が異なる
…時間の計算を15分単位で切下げるためFLOOR関数を使っています。 まったく同じ時間、関数なのにファイルにより計算結果が異なるので困っています。 具体例は 2016/8/04 18：00：00 に対...…
電卓での時間の足し算方法
…3時間53分＋15時間46分＋12時間31分を電卓で計算する時、分を時間になをして計算しますが 簡単な計算方法があったら教えて下さい 例 30053+15046+12046とか小数点を使うとか？…
EXCELにての計算式が・・
…エクセルの計算式で困ってます。 =IF(K25"",(5-K25+$C26)/5*100,"") という計算式があって C26には 「-0.005」が入ります。 「5-K25」という式の答えから マイナス0.05を引きたいのですが 苦し紛れに...…
BtrieveからSQL Serverへデータ移行
…お世話になります。 Btrieve から MS SQL Server 2008へデータの移行を行いたいと考えています。 現在、手元に xxxxxx.btr というファイル名のBtrieveのテーブルデータ（？）があります。 NetWere上（？...…
端数は繰り上げにしておいてと言われたんですが、 例えば1200.09999に、なった場合は 1201
…端数は繰り上げにしておいてと言われたんですが、 例えば1200.09999に、なった場合は 1201ですか？1200ですか？ もしも、1200.9999なら1201 になるのは理解できます。…
floatの有効桁数
…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。 私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…
ExcelでPC（パソコン）によって計算結果（演算結果）が違う
…Excel2003 SP2 を使用しています。 類似の質問は見つけられませんでした。 以下のような表の中で、※☆の部分は配列数式を用いているのですが、上司のPC（甲と呼びます）と私のPC（乙と...…
条件付き書式で10以下の時にそのセルを小数点以下1桁表示にしたい
…よろしくお願いします。いつもgooの皆さんには大変お世話になっております 指定範囲の表示桁数を小数点以下１桁にしたいのですが いつもはセルの書式設定でやっていますが これを条...…
ACCESSのint関数、fix関数について。
…経験者の方にお尋ねします。 切り捨て計算をしたいので、fix関数を使っていたのですが、 先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。 代わりに...…
EXCELで複数の数式を一括で四捨五入にする方法
…EXCEL2000です 数式が何十個もあるのですが一括で四捨五入にする方法がわからず、一つずつ四捨五入にする式に入力しなおしています 一括で入力しなおす方法はあるのでしょうか…
Excelの集計がSUM関数で、１円少なくなります。書式設定は「通貨」。記号は「なし」。にしてい...
…Excelの集計がSUM関数で、１円少なくなります。書式設定は「通貨」。記号は「なし」。にしています。どうしたら、改善されますか？…
Accessで小数点以下を切り捨てたいんですが
…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数（floorなど）は見つかるん...…
基本情報技術者試験の勉強しているのですが、浮動小数点数とか指数、仮数とか。システム開...
…基本情報技術者試験の勉強しているのですが、浮動小数点数とか指数、仮数とか。システム開発で何か使うのでしょうか？ 社内システム開発担当にあたり、ITの勉強をしています。…
Excelで二捨三入したいのですが・・・
…Excelに二捨三入した結果を返す関数はありますか？ もし該当する関数がないようでしたら、どのような計算式を作ったら、二捨三入できるのでしょうか？ WindowsXP、Excel2002を使用しており...…
【Excel VBA】10進数を2進数に直したい
…ExcelのVBAで単精度浮動点小数(以下、小数)を16進数に直すためにコードを書いています。 頭の中では、小数→整数部分と小数点以下に分解→2進数→16進数に変換処理という流れはできていま...…
検索で見つからないときは質問してみよう！
質問する（無料）
