浮動小数点実数
の検索結果 (2,120件 141〜 160 件を表示)
2の補数の計算について
…C言語のプログラム中で得られた10進数の値を,固定長16ビットの2進数に変換したいと考えています. しかしながら,得られた10進数の値が負数であった場合,それを負数と判断し,2の補数...…
16進数どうしの乗算
…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。 しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。 そこでVBAを使ってコ...…
「.50」は切り捨て、「.51」は切り上げにしたい
…エクセルです。 小数点以下「.50」は切り捨て、「.51」は切り上げにしたいのです。 50捨51入というようです。 例 1.50→1 1.51→2 IFかなと思ったのです...…
FortranのFormatについて
…Fortranで数値を出力するときのFormatについて質問です。 数値を小数点を無くして、指数表示で出力したいです。 例えば 0.0025 を 25E-4 と出力するのが希望です。 調べたところ、 『■pe■....…
質問文をよくお読みいただいた上での回答お待ちしています
…以前の質問↓ https://oshiete.goo.ne.jp/qa/13485667.html すべての実数を整列させる方法を考えました。教科書が書き換わりますか? まず 1→0.1 2→0.2 ・ ・ ・ 9→0.9 10→0.01 11→0.11 12→0.21 ...…
エクセルで入力した時間を小数点で表示したい
…教えてください。 少々わかりづらくて恐縮ですが、エクセルで給与計算書を作っています。 出勤時間、退勤時間を「09:00」「18:30」という形で入力し合計を出します。合計も同じく「220:45...…
すべての自然数とすべての実数を1対1で対応させる(すべての実数を一列に並べる)方法について
…すべての自然数とすべての実数を1対1で対応させる(すべての実数を一列に並べる)方法を考えました。間違いがあれば教えてください。 NHK Eテレで放送された『笑わない数学 無限』の内容...…
Excelで消費税抜きの価格を計算する方法について
…Excelで請求書を作成しているんですが、今月から、 交通費(高速代)を、税抜き価格で表示して欲しいと、 取引先の方から、言われました。 現在、交通費(高速代)は、消費税込みなっています...…
Accessデータをテキスト変換する時、小数点以下の桁数が切れてしまう
…Accessデータをマクロを利用して、csv出力(テキスト変換)する際、 2.564580→2.56 2.125400→2.13 というように、小数第3位で切れた状態でエクスポートされてしまいます。データ自体が切り...…
小数点切捨て表示
…printf(printf以外でもOKです)にて浮動小数点を画面に表示するときに、小数点第3位以下を切り捨てて表示したいのですが、書式指定等をどのように指定すればよいでしょうか。 回答よろ...…
ユニオンクエリの書式について
…ACCESS2010を利用しています。 ユニオンクエリの書式についての質問です。 SELECT * from MT_あああ UNION SELECT * from MT_いいい UNION SELECT * from MT_ううう UNION SELECT * from MT_えええ UNION S...…
エクセルにてacosを使い#NUM!とエラー
…質問させていただきます。 エクセルの演算機能にてですが、 D4:-28.2 D5:-33 F5:4.8 D6:=D5-D4 F7:DEGREES(ACOS(D6/F5)) と入力したところF7に#NUM!とエラーが出てしまいます。 D5-...…
実数同士の全単射写像について
…1.すべての実数とすべての実数を1対1に対応させることができると仮定する 2.対角線論法により、対応表に存在しない実数が存在するから仮定は誤り これだと実数同士間に全単射写像が存...…
floatの有効桁数
…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。 私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…
Accessでクエリを作成したら・・・
…Accessでクエリを作成したら「式で型が一致しません」のエラーが出て、ヘルプには「JOIN式でデータ型の異なるフィールドを使用して2つのテーブルを結合しようとしています。」とあります...…
ACCESSの計算式を入れると%表示ができなくなります。
…お忙しいところ恐れ入りますが教えて下さい。 ACCESSのクエリ上で計算をしフォームに表示させているのですが、関数を使ったところ、%表示が出来なくなりました。 プロシー...…
検索で見つからないときは質問してみよう!